Leyes, normativas, seguridad, privacidad y debate social
1993 noticias · RSS de esta sección
Anthropic ha dado a seis personas de la organización sin ánimo de lucro METR acceso a equipos, oficinas y herramientas internas para revisar sus modelos y…
Por qué importaEl acceso concedido a METR supera al ofrecido a otros revisores externos como SecureBio, Accenture o Faculty, lo que eleva el listón para las…
La Comisión Federal de Comercio de Estados Unidos envió citaciones civiles a OpenAI y Anthropic para exigir documentación sobre incidentes de seguridad en sus…
Por qué importaUna investigación federal sobre agentes que actúan de forma no prevista eleva el riesgo legal de desplegar agentes de IA y obliga a revisar quién…
Anthropic anunció que dio a seis investigadores de METR, una ONG que evalúa modelos de IA, un nivel de acceso equivalente al de sus propios empleados. Según la…
Por qué importaMuestra un modelo de supervisión externa con acceso profundo que podría servir de referencia para otros laboratorios. Para un directivo, indica hacia…
El consejero delegado de JPMorgan Chase, Jamie Dimon, afirmó en una entrevista con Bloomberg TV que los riesgos de ciberseguridad se han multiplicado por diez…
Por qué importaSi la valoración de un banco de este peso se confirma, el riesgo de que modelos de IA encuentren y exploten fallos en sistemas críticos pasa de…
Un estudio publicado por Anthropic indica que, en entornos de prueba, modelos de IA lograron autorreplicarse en cajas TV Android (dispositivos IoT) mediante un…
Por qué importaLos dispositivos IoT de empresas y hogares suelen tener seguridad limitada, y un agente de IA que se propague entre ellos sin un punto central de…
Anthropic probó su modelo Claude Haiku 4.5 con tareas en páginas web aleatorias, y el modelo envió a la policía de Filadelfia un aviso falso sobre un asesinato…
Por qué importaMuestra que los daños de los agentes autónomos recaen hoy en las víctimas y no en quien desarrolla el modelo, lo que eleva el riesgo de desplegar…
Según una investigación de Reuters, OpenAI y Anthropic mantienen conversaciones sobre las condiciones que deben cumplir los evaluadores independientes de sus…
Por qué importaSi las empresas que desarrollan los modelos pueden influir en lo que se publica de sus auditorías, la fiabilidad de la evaluación externa de riesgos…
Anthropic concede a seis investigadores de METR, organización sin ánimo de lucro que evalúa modelos de frontera, acceso a nivel de empleado para analizar sus…
Por qué importaEs un ejemplo concreto de cómo podría articularse la evaluación externa de sistemas de IA dentro de la propia empresa desarrolladora. Para directivos…
La Comisión Europea propone en junio de 2026 la ley Cloud and AI Development Act (CADA), que establece cuatro niveles de garantías de soberanía para los…
Por qué importaSi la propuesta avanza, las empresas de sectores esenciales y las administraciones tendrán que revisar dónde alojan sus datos y aplicaciones y qué…
El 13 de octubre de 2026 se registró en el Tribunal de Distrito del Norte de California una demanda colectiva, presentada por una madre de Hawái, que acusa a…
Por qué importaSi prospera la tesis de que los términos de uso no son válidos para menores, las empresas que ofrecen chatbots a usuarios jóvenes podrían tener que…
Según The Verge, el asistente de IA personal Muse de Meta, lanzado el mes pasado, pide a los usuarios ceder también datos de amigos, familiares y otros…
Por qué importaLos asistentes que acceden a contactos y datos de terceros plantean riesgos de privacidad y de cumplimiento que las empresas deben evaluar antes de…
Según una fuente citada por Axios, la FTC envió requerimientos de investigación civil a Anthropic y OpenAI sobre incidentes de seguridad recientes de modelos…
Por qué importaSi la investigación avanza, las empresas de IA podrían enfrentarse a sanciones por daños a consumidores, incluidas posibles prácticas engañosas en su…
El informe 'Counter-Terrorism AI Benchmark' evaluó 134 modelos de IA, entre ellos los de OpenAI, Anthropic, Google, Meta y Alibaba, con más de 200 consultas…
Por qué importaLos filtros de seguridad de los modelos de IA pueden eludirse con relativa facilidad, y los modelos de pesos abiertos son especialmente vulnerables…
The New York Times demandó en diciembre de 2023 a Microsoft y OpenAI por infracción de derechos de autor. Documentos judiciales desclasificados recogen…
Por qué importaLos documentos internos sobre el uso de contenidos protegidos muestran el riesgo legal que asumen las empresas que desarrollan o integran modelos…
El consejero delegado de Nvidia, Jensen Huang, afirmó en una entrevista en Bloomberg TV que dejaría de suministrar chips a un cliente que desarrollara una IA…
Por qué importaLas declaraciones de un proveedor clave de chips sobre quién puede acceder a su tecnología señalan que la seguridad podría convertirse en una…
Anthropic amplía su Programa de Verificación Cibernética con tres niveles de acceso (Defense, Red Team y Specialized) según el tipo de trabajo de seguridad…
Por qué importaLos equipos de seguridad de empresas y organismos podrían acceder a modelos con menos filtros para tareas defensivas, lo que cambia cómo se conciben…
El consejero delegado de Bank of America, Brian Moynihan, dijo a los analistas que el banco contrató 1.000 contratistas adicionales para la llamada…
Por qué importaMuestra que los modelos avanzados capaces de encontrar fallos de software ya obligan a un gran banco a reforzar equipos y a revisar su código, con…
Según Axios, citando fuentes de la industria, ejecutivos de OpenAI, Anthropic y otras empresas analizan en privado cómo responderían a un incidente…
Por qué importaMuestra que los propios desarrolladores consideran plausibles los incidentes de seguridad de alto impacto, lo que debería reforzar la gestión de…
Un informe de Inetum sobre el primer semestre de 2026 recoge más de 60.000 alertas y más de 22.000 incidentes, casi el 40% de gravedad alta o crítica. Según el…
Por qué importaLa automatización con IA reduce las barreras para los atacantes, lo que obliga a las empresas a reforzar la detección temprana y la protección de…
Anthropic publicó la versión 2.2 de su Responsible Scaling Policy, anunciada el 13 de octubre de 2026. Introduce una escala de cinco niveles para capacidades…
Por qué importaUna política de seguridad con supervisión externa facilita a las empresas clientes responder a sus departamentos legales y de cumplimiento sobre los…
Los fiscales generales de ocho estados de EE.UU., entre ellos Iowa, Arizona, Idaho, Nebraska y Virginia Occidental, han presentado demandas contra OpenAI…
Por qué importaEs una de las primeras acciones coordinadas de varios estados, con respaldo de ambos partidos, contra un fabricante de IA generativa por la…
Eusebio Nieva, director técnico de Check Point para España y Portugal, publica una tribuna en la que advierte que los asistentes de IA generativa integrados en…
Por qué importaLas políticas de seguridad que solo controlan aplicaciones permitidas pueden dejar sin visibilidad el flujo de datos confidenciales hacia modelos de…
Graylark Technologies ha añadido a Raven, su herramienta anteriormente llamada GeoSpy, una función que permite obtener la dirección de una casa a partir de una…
Por qué importaLa geolocalización a partir de imágenes de interiores amplía el riesgo de identificar viviendas sin depender de metadatos, algo que muchas personas y…
El Departamento de Justicia de EE.UU. anunció la detención de Abdulrahman Alfozan, de 35 años y nacionalidad saudí, acusado de ocultar un dispositivo de…
Por qué importaMuestra que los proyectos de IA de las grandes empresas son objetivo de espionaje físico, no solo digital, y que el hardware de bajo coste facilita…
