Ingeniero de Anthropic dimite alegando riesgo existencial de la IA
Hecho Qué ha ocurrido
Jacob Coxon, exempleado de Anthropic y OpenAI, ha renunciado a su puesto afirmando que quienes desarrollan IA creen que podría suponer un riesgo existencial antes de que termine la década. Su antiguo jefe, Evan Hubinger, responsable de alineación en Anthropic, respaldó la afirmación estimando en más de un 10% la probabilidad de un desenlace catastrófico en la próxima década. El artículo contextualiza el caso con precedentes similares en OpenAI (Saunders, Kokotajlo, Leike en 2024) y con críticas de académicos como Melanie Mitchell, que califican estas alarmas de especulación sin base empírica.
Resumen generado mediante IA a partir de El Periódico Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Estas dimisiones reflejan tensiones internas en las principales empresas de IA sobre la gestión del riesgo frente a la presión competitiva, algo relevante para quienes evalúan la gobernanza y reputación de estos proveedores. También alimenta el debate público sobre regulación y confianza en la IA, que puede influir en decisiones de adopción empresarial.
- Quién se ve afectado
- Directivos y responsables de estrategia tecnológica que evalúan proveedores de IA, además de reguladores y opinión pública.
- Qué puede cambiar
- A corto plazo probablemente poco cambie en la práctica operativa, pero refuerza la presión mediática y regulatoria sobre la seguridad y transparencia de los grandes laboratorios de IA.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si más empleados de Anthropic u OpenAI hacen declaraciones similares, cómo responden ambas compañías públicamente, y si esto influye en sus procesos de salida a bolsa previstos.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: El Periódico Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineación AnthropicOpenAI Anthropic dimisión OpenAI riesgo existencial seguridad IA
Forma parte de la historia Empleados de Anthropic advierten sobre riesgo existencial de la IA (3 noticias, estado: evolución rápida).
Relacionadas
Investigador de Anthropic renuncia y advierte sobre riesgo existencial de la IA antes de 2030
Jacob Coxon, exingeniero de preentrenamiento en OpenAI y Anthropic, renunció y anunció que se aparta de la industria de IA, alegando que la carrera entre…
Por qué importaEs una señal más de que voces internas de laboratorios líderes expresan dudas serias sobre el ritmo de la carrera de IA, lo que alimenta el debate…
Investigador de alineación de Anthropic apoya en X advertencia viral sobre riesgo existencial de la IA
Evan Hubinger, líder de ciencia de alineación de Anthropic, respondió en redes sociales a un mensaje viral de Jacob Coxon (más de 60 millones de visitas) que…
Por qué importaLa declaración proviene de un empleado clave de una de las empresas líderes en seguridad de IA, lo que da peso a las preocupaciones sobre riesgo…
Investigador de Anthropic y exOpenAI dimite alertando sobre riesgo de superinteligencia descontrolada
Jacob Coxon, investigador que trabajó en OpenAI (2023-2026) y luego en Anthropic, anunció su dimisión acusando a ambas empresas de actuar de forma…
Por qué importaEstas salidas reiteradas de personal de seguridad en los laboratorios líderes sugieren tensiones internas crecientes entre la velocidad de desarrollo…
Investigador que renunció a Anthropic advierte que los próximos dos años definirán el riesgo existencial de la IA
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció y publicó en X una advertencia sobre riesgos existenciales de la IA que superó los 100 millones de…
Por qué importaEstas declaraciones de insiders añaden presión pública y regulatoria sobre los laboratorios de IA justo cuando Anthropic prepara una posible salida a…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.