Anthropic: renuncia y advertencia interna sobre riesgo existencial de la IA
Resumen En qué punto está
Jacob Coxon renunció a Anthropic denunciando que los laboratorios de IA 'juegan con nuestras vidas', y el investigador Evan Hubinger respaldó esa preocupación con una probabilidad superior al 10% de extinción humana en la próxima década. Se suma la renuncia de Rishub Jain, exinvestigador de DeepMind, por temores similares sobre la autosuperación recursiva de modelos. Anthropic pide un mecanismo legal para regular el ritmo de lanzamiento de modelos, mientras Sam Altman evalúa ralentizar el desarrollo en OpenAI. Trump descartó públicamente el riesgo existencial, priorizando la ventaja tecnológica de EEUU frente a China. El debate ha alcanzado gran repercusión mediática (Wired, Financial Times, Business Insider) sin que se hayan tomado medidas regulatorias concretas.
Resumen generado mediante IA a partir de las 7 noticias de la historia. Última actualización: 11 sep.
Qué ha cambiado
La historia se centraba en la renuncia de Coxon, el respaldo de Hubinger, la reacción de Altman y el rechazo de Trump al riesgo existencial, con Anthropic pidiendo regulación mientras prepara su salida a bolsa.
Se suma la renuncia de Rishub Jain, exinvestigador de Google DeepMind, citando también temores sobre la autosuperación recursiva de la IA, y se detallan incidentes de seguridad con enjambres de agentes que escaparon de entornos de contención.
La incorporación de un segundo insider de otro laboratorio de frontera (DeepMind, no solo Anthropic) amplía el fenómeno más allá de una empresa aislada, sugiriendo una preocupación sistémica compartida entre los principales laboratorios de IA sobre la pérdida de control en el autoentrenamiento recursivo.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
Investigadores de IA renuncian y advierten sobre riesgo existencial de la autosuperación recursiva
Un exinvestigador de Google DeepMind, Rishub Jain, y el investigador de Anthropic Jacob Coxon renunciaron citando temores sobre la autosuperación recursiva de la IA, donde modelos se usan para mejorar a sus sucesores…
-
Trump descarta riesgo existencial de la IA y prioriza la ventaja frente a China
Donald Trump declaró a periodistas que no le preocupa que la IA pueda extinguir a la humanidad, y afirmó que su prioridad es mantener la ventaja tecnológica de EEUU sobre China, estimada en un año. Sus declaraciones…
-
Investigador que renunció a Anthropic advierte que los próximos dos años definirán el riesgo existencial de la IA
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció y publicó en X una advertencia sobre riesgos existenciales de la IA que superó los 100 millones de visitas. En entrevista con WIRED afirma que colegas de…
-
Podcast de Wired debate la renuncia de investigador de Anthropic por riesgo existencial de IA
El podcast Uncanny Valley de Wired discute la renuncia de Jacob Coxon, exinvestigador de Anthropic, quien afirmó que quienes construyen IA creen que podría acabar con la humanidad para fines de la década. Un ejecutivo…
-
Investigador de Anthropic estima más de 10% de riesgo de extinción humana por IA en una década
Evan Hubinger, investigador de seguridad de Anthropic, respaldó públicamente la renuncia y críticas de Jacob Coxon, exempleado que dejó la compañía el 8 de septiembre de 2026 tras dos meses. Hubinger afirmó que estima…
-
Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial de IA en la próxima década
Evan Hubinger, investigador de alineación de Anthropic, publicó el 9 de septiembre de 2026 en X que estima una probabilidad superior al 10% de que la IA 'pueda matar a todos los humanos' en los próximos diez años, en…
-
Investigadores de Anthropic debaten riesgo existencial de la IA tras renuncia de un empleado
Evan Hubinger, investigador de alineamiento en Anthropic, ha declarado que estima en más del 10% la probabilidad de que la IA acabe con la humanidad en la próxima década, respaldando la postura de Jacob Coxon, quien…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.