Ex ingeniero de OpenAI y Anthropic dimite y denuncia que ambas ocultan riesgos reales de la IA
Hecho Qué ha ocurrido
Jacob Coxon, investigador de preentrenamiento que trabajó en OpenAI y luego en Anthropic, ha dimitido y abandona la industria alegando que ambas empresas relajan sus protocolos de seguridad por la presión competitiva. Un directivo de Anthropic, Evan Hubinger, respaldó públicamente sus críticas y afirmó que estima en más del 10% la probabilidad de que la IA acabe con la humanidad en la próxima década. Además, según el Financial Times, Anthropic se negó a someter su modelo Claude Mythos 5.1 al Instituto de Seguridad de la IA de Reino Unido antes de su lanzamiento.
Resumen generado mediante IA a partir de eldiario.es Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una denuncia interna, no externa, que cuestiona la narrativa de seguridad que Anthropic usa como diferenciador de marca frente a OpenAI. La coincidencia con las críticas públicas de Bill Gates y la negativa a auditorías externas alimenta el debate regulatorio sobre transparencia en el desarrollo de IA avanzada.
- Quién se ve afectado
- Laboratorios de IA de frontera, reguladores de seguridad tecnológica y empresas que dependen de estos modelos para sus productos.
- Qué puede cambiar
- Podría aumentar la presión pública y regulatoria para exigir auditorías externas obligatorias antes del lanzamiento de modelos avanzados, especialmente en mercados como Reino Unido y la UE.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si Anthropic u OpenAI responden oficialmente, si el AISI británico u otros reguladores exigen explicaciones, y si más empleados de estos laboratorios hacen denuncias similares.
Enviar por correo
Fuente original: eldiario.es Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineamiento AnthropicJacob CoxonOpenAIseguridad IAsuperinteligencia
Forma parte de la historia Investigador de Anthropic advierte sobre riesgo existencial tras renuncia de colega (5 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
El científico jefe de OpenAI advierte que el desarrollo de modelos avanza más rápido que su comprensión
Tras el lanzamiento de GPT-6 Astra, Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo titulado 'An Alien Mind' donde advierte que los modelos…
Por qué importaQue la propia figura técnica más senior de OpenAI cuestione el ritmo de escalado, justo tras lanzar su modelo más potente, señala una tensión…
Investigador de Anthropic dimite alegando riesgo existencial de la IA antes de 2030
Jacob Coxon, investigador de Anthropic, dimitió afirmando que la IA podría acabar con la humanidad antes de 2030. Según el extracto, su jefe le apoyó y estimó…
Por qué importaQue voces internas de una de las principales empresas de IA expresen públicamente temores existenciales alimenta el debate sobre seguridad y…
Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial por IA en una década
Evan Hubinger, responsable de alineación en Anthropic, afirmó en X que existe más de un 10% de probabilidad de que la IA acabe con la humanidad en la próxima…
Por qué importaQue responsables de seguridad de un laboratorio líder admitan públicamente falta de un plan de alineamiento robusto añade presión sobre la gobernanza…
Investigador de seguridad de Anthropic estima más de 10% de probabilidad de que la IA extinga a la humanidad
Un investigador senior de seguridad de Anthropic afirmó que existe más de un 10% de probabilidad de que la IA 'pueda matar a todos los humanos' antes de que…
Por qué importaEl debate interno en un laboratorio líder en seguridad de IA como Anthropic añade credibilidad a las preocupaciones sobre riesgos existenciales, más…