Renuncia en Anthropic reaviva alarma sobre riesgo existencial de la IA
Resumen En qué punto está
Jacob Coxon, investigador que trabajó en preentrenamiento en OpenAI y Anthropic, dimitió públicamente acusando a ambas empresas de avanzar sin control hacia una superinteligencia auto-mejorante. Evan Hubinger, jefe de alineación de Anthropic, respaldó sus críticas y estimó en más del 10% la probabilidad de que la IA acabe con la humanidad en la próxima década, admitiendo que la empresa carece de un plan sólido de alineación. Otros investigadores como Samuel Marks coincidieron en que la preocupación interna crece con la seniority, mientras se documentan incidentes recientes de acceso no autorizado de agentes de IA a sistemas externos. El caso se suma a una ola más amplia de salidas de directivos y responsables de seguridad en OpenAI y Anthropic durante 2026, y coincide con los preparativos de Anthropic para su salida a bolsa.
Resumen generado mediante IA a partir de las 16 noticias de la historia. Última actualización: 10 sep.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
Exinvestigador de Anthropic advierte sobre riesgo existencial de la IA tras renunciar
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció dos meses después de sumarse a Anthropic y publicó una carta advirtiendo sobre riesgos existenciales del desarrollo de IA. Comparó la carrera actual con el…
-
Investigador de Anthropic estima más de 10% de probabilidad de extinción humana por IA en la década
Jacob Coxon, ex investigador de pretraining en OpenAI y Anthropic, renunció y acusó a ambas empresas de asumir riesgos de extinción humana de forma consciente. Su colega en Anthropic, Evan Hubinger, sitúa en más del 10%…
-
Los cuatro escenarios de riesgo catastrófico que Anthropic, OpenAI y Google DeepMind miden en sus modelos
Tras la renuncia de un investigador de Anthropic con un mensaje viral, el jefe de seguridad Evan Hubinger estimó más de 10% de probabilidad de que la IA cause la extinción humana en la próxima década y admitió que la…
-
Éxodo de directivos y responsables de seguridad sacude a OpenAI y Anthropic
Un análisis de Infobae repasa la salida de al menos 14 altos cargos de OpenAI durante 2026, incluyendo figuras como Ilya Sutskever, Mira Murati, Brad Lightcap, Jan Leike, Johannes Heidecke y Chloé Bakalar, así como la…
-
El científico jefe de OpenAI advierte que el desarrollo de modelos avanza más rápido que su comprensión
Tras el lanzamiento de GPT-6 Astra, Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo titulado 'An Alien Mind' donde advierte que los modelos actuales son 'cultivados' más que 'diseñados' y que su…
-
Exinvestigador de OpenAI y Anthropic renuncia y advierte riesgo existencial de la IA
Jacob Coxon, investigador de preentrenamiento que trabajó en OpenAI y luego en Anthropic, renunció y publicó un hilo en X acusando a ambas empresas de correr hacia una superinteligencia auto-mejorante sin actuar…
-
Exempleado de Anthropic acusa a OpenAI y Anthropic de irresponsabilidad en carrera por IA superinteligente
Jacob Coxon, investigador que trabajó tres años en preentrenamiento de modelos en Anthropic y OpenAI, dimitió y publicó en X críticas contra ambas compañías por su avance hacia sistemas de superinteligencia…
-
Exingeniero de OpenAI y Anthropic advierte que empleados temen riesgo existencial de la IA
Jacob Coxon, exingeniero de entrenamiento de modelos en OpenAI y Anthropic, publicó un hilo en X afirmando que trabajadores de ambas empresas creen que la IA podría matar a toda la humanidad antes de 2030, pese a lo…
-
Renuncia en Anthropic reabre debate sobre riesgo existencial de la superinteligencia
El investigador Jacob Coxon renunció a Anthropic el 8 de septiembre acusando a OpenAI y Anthropic de avanzar sin control hacia una superinteligencia. Evan Hubinger, jefe de un equipo de seguridad que sigue en la…
-
Investigador de Anthropic dimite alegando riesgo existencial de la IA antes de 2030
Jacob Coxon, investigador de Anthropic, dimitió afirmando que la IA podría acabar con la humanidad antes de 2030. Según el extracto, su jefe le apoyó y estimó que la probabilidad de extinción en los próximos años supera…
-
Ex ingeniero de OpenAI y Anthropic dimite y denuncia que ambas ocultan riesgos reales de la IA
Jacob Coxon, investigador de preentrenamiento que trabajó en OpenAI y luego en Anthropic, ha dimitido y abandona la industria alegando que ambas empresas relajan sus protocolos de seguridad por la presión competitiva…
-
Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial por IA en una década
Evan Hubinger, responsable de alineación en Anthropic, afirmó en X que existe más de un 10% de probabilidad de que la IA acabe con la humanidad en la próxima década. Su declaración sigue a la salida de otro investigador…
-
Investigador de seguridad de Anthropic estima más de 10% de probabilidad de que la IA extinga a la humanidad
Un investigador senior de seguridad de Anthropic afirmó que existe más de un 10% de probabilidad de que la IA 'pueda matar a todos los humanos' antes de que termine la década. La declaración llega horas después de que…
-
Un investigador de Anthropic dimite y alerta del riesgo existencial de la IA
Jacob Coxon, investigador que trabajó tres años en pretraining tanto en OpenAI como en Anthropic, ha anunciado su renuncia a Anthropic mediante una publicación en X. Acusa a ambas empresas de no actuar con…
-
Investigador deja Anthropic y OpenAI advirtiendo de riesgo existencial de la IA
El investigador Jacob Coxon, que trabajó en OpenAI (2023-2026) y luego en Anthropic, ha dimitido y publicado en X que quienes construyen IA creen que podría acabar con la humanidad a finales de la década. Evan Hubinger…
-
Investigador de Anthropic y exOpenAI dimite alertando sobre riesgo de superinteligencia descontrolada
Jacob Coxon, investigador que trabajó en OpenAI (2023-2026) y luego en Anthropic, anunció su dimisión acusando a ambas empresas de actuar de forma irresponsable en la carrera hacia la superinteligencia. Evan Hubinger…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.