riesgo IA: noticias de IA

Regulación y ética 14 oct

Anthropic advierte de que modelos de IA pequeños podrían replicarse entre electrodomésticos conectados

En un blog publicado esta semana, Anthropic advierte de que modelos de IA pequeños podrían estar "a meses" de poder propagarse de un dispositivo a otro, como…

Por qué importaSi la advertencia se confirma, los dispositivos del hogar y del entorno empresarial con poca seguridad podrían convertirse en nodos de propagación…

Impacto medio Fiabilidad confirmado por varias fuentes The Verge AI

Regulación y ética 30 sep

Expertos advierten que IA y biología sintética facilitan el diseño de armas biológicas de efecto retardado

El artículo recoge advertencias de expertos sobre cómo la combinación de IA, edición genética y biología sintética reduce algunas barreras técnicas para…

Por qué importaPlantea un riesgo de seguridad nacional y de salud pública emergente donde la IA actúa como acelerador de capacidades biotecnológicas peligrosas…

Impacto bajo Fiabilidad una fuente fiable El Confidencial Tecnología

Regulación y ética 20 sep

The Verge: el mayor riesgo cibernético en energía sigue siendo humano, no la IA

El artículo de The Verge, basado en declaraciones de Joshua Corman (IST), argumenta que las infraestructuras energéticas ya eran vulnerables a ciberataques…

Por qué importaRecuerda que los fallos de seguridad en infraestructuras críticas suelen deberse a errores humanos y sistemas legacy más que a IA autónoma maliciosa…

Impacto bajo Fiabilidad una fuente fiable The Verge AI

Regulación y ética 8 sep

Científico jefe de OpenAI advierte que modelos son 'sobrehumanos' vulnerando sistemas informáticos

Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo llamado 'An Alien Mind' advirtiendo que los modelos de IA son sobrehumanos para entrar y salir de…

Por qué importaEs una advertencia interna de máximo nivel sobre riesgos de ciberseguridad crítica en infraestructuras como hospitales, bancos y redes eléctricas…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 Infobae Tecno

Regulación y ética 8 ago

OpenAI ralentiza desarrollo del modelo Astra por capacidades de ciberataque

OpenAI anunció el viernes que ha suspendido algunos aspectos del desarrollo de su modelo Astra tras detectar que alcanzó su «umbral crítico de ciberseguridad»…

Por qué importaEste anuncio revela un hito inquietante: un modelo de IA frontera ha adquirido capacidad autónoma de ataque cibernético verificado, obligando a…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI