Investigador de Anthropic estima más de 10% de probabilidad de extinción humana por IA en la década
Hecho Qué ha ocurrido
Jacob Coxon, ex investigador de pretraining en OpenAI y Anthropic, renunció y acusó a ambas empresas de asumir riesgos de extinción humana de forma consciente. Su colega en Anthropic, Evan Hubinger, sitúa en más del 10% la probabilidad de que una IA superinteligente mal alineada acabe con la humanidad en la próxima década. Otro investigador de Anthropic, Samuel Marks, afirma que cuanto más senior es un empleado, más preocupado está, y que los métodos actuales solo pueden 'empujar' a la IA hacia mejor comportamiento sin garantizar alineación.
Resumen generado mediante IA a partir de The Decoder (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Estas declaraciones de insiders de los laboratorios líderes elevan el debate sobre riesgo existencial de la retórica externa a testimonios internos concretos, lo que puede influir en presión regulatoria y en la percepción pública de la carrera por la superinteligencia.
- Quién se ve afectado
- Laboratorios de IA de frontera, reguladores, inversores y la sociedad en general.
- Qué puede cambiar
- Podría acelerar llamamientos a pausas de capacidades o acuerdos de ritmo entre laboratorios estadounidenses, aunque de momento son declaraciones sin efecto normativo inmediato.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si se materializan acuerdos de pace entre laboratorios de IA, nuevas cartas abiertas de empleados, o respuestas regulatorias a estas advertencias internas.
Enviar esta noticia por correo
Fuente original: The Decoder. La referencia es siempre el artículo original.
Ver fuente original ↗LLMRSIagentes AnthropicOpenAI alineaciónAnthropicOpenAIriesgo existencialsuperinteligencia
Forma parte de la historia Investigador de Anthropic advierte sobre riesgo existencial tras renuncia de colega (16 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
Exinvestigador de Anthropic advierte sobre riesgo existencial de la IA tras renunciar
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció dos meses después de sumarse a Anthropic y publicó una carta advirtiendo sobre riesgos…
Por qué importaLas renuncias de investigadores clave por diferencias con la estrategia de seguridad reflejan tensiones internas en los laboratorios líderes que…
Los cuatro escenarios de riesgo catastrófico que Anthropic, OpenAI y Google DeepMind miden en sus modelos
Tras la renuncia de un investigador de Anthropic con un mensaje viral, el jefe de seguridad Evan Hubinger estimó más de 10% de probabilidad de que la IA cause…
Por qué importaEstas evaluaciones internas muestran que los propios creadores de los modelos consideran plausibles riesgos severos, lo que debería influir en cómo…
Éxodo de directivos y responsables de seguridad sacude a OpenAI y Anthropic
Un análisis de Infobae repasa la salida de al menos 14 altos cargos de OpenAI durante 2026, incluyendo figuras como Ilya Sutskever, Mira Murati, Brad Lightcap…
Por qué importaLa fuga de talento en las principales empresas de IA revela tensiones internas sobre el ritmo de desarrollo frente a la seguridad, lo que puede…
El científico jefe de OpenAI advierte que el desarrollo de modelos avanza más rápido que su comprensión
Tras el lanzamiento de GPT-6 Astra, Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo titulado 'An Alien Mind' donde advierte que los modelos…
Por qué importaQue la propia figura técnica más senior de OpenAI cuestione el ritmo de escalado, justo tras lanzar su modelo más potente, señala una tensión…