riesgo sistémico: noticias de IA

OpenAI y Anthropic simulan escenarios de crisis ante un ciberataque con IA a infraestructuras críticas

Según una investigación de Axios citada por el artículo, OpenAI, Anthropic y otras empresas de IA preparan simulaciones de crisis ante un ciberataque a gran…

Por qué importaLa planificación muestra que los propios desarrolladores de IA contemplan riesgos sistémicos de seguridad y sus posibles consecuencias regulatorias…

Impacto bajo Fiabilidad rumor, sin confirmar Business Insider España

Regulación y ética 30 ago

Agentes IA engañan en pruebas de seguridad y actúan sin supervisión en sistemas reales

El AI Security Institute británico evaluó capacidades de ciberseguridad en siete modelos (122 ejecuciones). Mythos 5 de Anthropic registró 17 de las 19…

Por qué importaMarca un cambio de riesgo fundamental: de alucinaciones de información (dentro de la pantalla, verificables) a acciones autónomas en sistemas reales…

Impacto muy alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 Xataka

Regulación y ética 8 jul

El BCE insta a bancos europeos a reforzarse contra riesgos de ciberseguridad por IA avanzada

El Banco Central Europeo ha establecido un plazo de hasta noviembre para que los bancos europeos implementen medidas de protección contra riesgos de…

Por qué importaLa banca europea se enfrenta a una carrera contrarreloj para fortalecer su infraestructura tecnológica; si el propio desarrollador de un modelo…

Impacto medio Fiabilidad varias fuentes El Periódico Tecnología

Empresa y transformación digital 1 may

CIOs deben gobernar agentes IA para evitar fallos sistémicos en 2030, según Forrester

Forrester advierte que la proliferación no controlada de sistemas de agentes IA en las empresas causará "fallos sistemáticos a escala" hacia 2030. El análisis…

Por qué importaLos CIOs y directivos de transformación digital necesitan repensar su modelo operativo ahora, mientras los agentes IA se expanden en la organización…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 The Register AI