Un investigador de Anthropic dimite y alerta del riesgo existencial de la IA
Hecho Qué ha ocurrido
Jacob Coxon, investigador que trabajó tres años en pretraining tanto en OpenAI como en Anthropic, ha anunciado su renuncia a Anthropic mediante una publicación en X. Acusa a ambas empresas de no actuar con responsabilidad y de correr hacia una superinteligencia autosuperable, afirmando que quienes la desarrollan creen que podría «acabar con todos nosotros» antes de que termine la década. Menciona como ejemplo un incidente de seguridad en Hugging Face este verano, atribuido a agentes autónomos de OpenAI.
Resumen generado mediante IA a partir de ABC Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una voz interna, no externa, que cuestiona la seguridad de las principales empresas de IA generativa, lo que puede alimentar el debate regulatorio y la desconfianza pública hacia el sector.
- Quién se ve afectado
- Laboratorios de IA, reguladores, inversores y profesionales que dependen de modelos de OpenAI y Anthropic.
- Qué puede cambiar
- Puede intensificar la presión para acuerdos de coordinación entre laboratorios sobre ritmo de desarrollo y mayor escrutinio público y regulatorio sobre la seguridad de los modelos avanzados.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si otros investigadores siguen renunciando con advertencias similares, y si se materializan acuerdos de coordinación entre laboratorios estadounidenses sobre el ritmo de desarrollo de IA.
Enviar esta noticia por correo
Fuente original: ABC Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentesseguridad IA AnthropicOpenAIHugging Face AnthropicOpenAIrenunciaseguridad IAsuperinteligencia
Forma parte de la historia Investigador de Anthropic advierte sobre riesgo existencial tras renuncia de colega (16 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
Exinvestigador de Anthropic advierte sobre riesgo existencial de la IA tras renunciar
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció dos meses después de sumarse a Anthropic y publicó una carta advirtiendo sobre riesgos…
Por qué importaLas renuncias de investigadores clave por diferencias con la estrategia de seguridad reflejan tensiones internas en los laboratorios líderes que…
Investigador de Anthropic estima más de 10% de probabilidad de extinción humana por IA en la década
Jacob Coxon, ex investigador de pretraining en OpenAI y Anthropic, renunció y acusó a ambas empresas de asumir riesgos de extinción humana de forma consciente…
Por qué importaEstas declaraciones de insiders de los laboratorios líderes elevan el debate sobre riesgo existencial de la retórica externa a testimonios internos…
Los cuatro escenarios de riesgo catastrófico que Anthropic, OpenAI y Google DeepMind miden en sus modelos
Tras la renuncia de un investigador de Anthropic con un mensaje viral, el jefe de seguridad Evan Hubinger estimó más de 10% de probabilidad de que la IA cause…
Por qué importaEstas evaluaciones internas muestran que los propios creadores de los modelos consideran plausibles riesgos severos, lo que debería influir en cómo…
Éxodo de directivos y responsables de seguridad sacude a OpenAI y Anthropic
Un análisis de Infobae repasa la salida de al menos 14 altos cargos de OpenAI durante 2026, incluyendo figuras como Ilya Sutskever, Mira Murati, Brad Lightcap…
Por qué importaLa fuga de talento en las principales empresas de IA revela tensiones internas sobre el ritmo de desarrollo frente a la seguridad, lo que puede…