Renuncias por temor existencial se multiplican en los grandes laboratorios de IA
Resumen En qué punto está
Una ola de renuncias de investigadores de seguridad en Anthropic, OpenAI y Google DeepMind (al menos 16-17 casos documentados) ha reavivado el debate sobre riesgo existencial de la IA, con estimaciones públicas de probabilidad de catástrofe superiores al 10-20% en la próxima década. Figuras como Hinton, Yampolskiy, Kokotajlo, Gates y Amodei piden desacelerar el desarrollo, mientras Musk, Cantrill, Gebru, Trump, Huang y Karp cuestionan la sinceridad o solidez de estas advertencias, señalando motivaciones comerciales o regulatorias. Bloomberg reportó conversaciones informales entre OpenAI, Anthropic y DeepMind para coordinar seguridad, sin confirmación oficial. Voces intermedias (Canton, Martínez, Mallaby) reformulan el riesgo como uso malicioso de la tecnología más que extinción literal, y la ONU insiste en regulación urgente, sin que el debate se traduzca aún en medidas concretas.
Resumen generado mediante IA a partir de las 29 noticias de la historia. Última actualización: 16 sep.
Qué ha cambiado
Ya había 16-17 renuncias documentadas en Anthropic, OpenAI y DeepMind con advertencias sobre riesgo existencial, y conversaciones informales de coordinación en seguridad sin confirmar.
Se acumulan más renuncias en DeepMind (Chughtai, Engels) con estimaciones de hasta 20% de probabilidad de pérdida de control, Bill Gates pide desacelerar el desarrollo, y OpenAI confirma vía Bloomberg conversaciones de coordinación en seguridad con Anthropic y DeepMind, mientras Jensen Huang y Trump intensifican el rechazo público al alarmismo.
El patrón de renuncias se consolida como fenómeno estructural más que anecdótico, y la entrada de una figura como Gates añade legitimidad al llamado a frenar el desarrollo, aunque persiste la fractura entre quienes ven riesgo genuino y quienes lo consideran estrategia comercial o política.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
Bill Gates pide ralentizar el desarrollo de la IA por falta de preparación social
Bill Gates afirmó en una entrevista con NDTV que el desarrollo de la inteligencia artificial debería ralentizarse porque la sociedad no está preparada para sus efectos. Citó episodios de pérdida de control detectados…
-
Inma Martínez: la IA no puede matarnos, pero puede dejarnos sin dinero, comida o luz
La investigadora española Inma Martínez, asesora de gobiernos y organismos internacionales en IA, valora en una entrevista con ABC el debate reciente sobre riesgo existencial de la IA tras las declaraciones de Dario…
-
Sebastian Mallaby advierte de un 'momento de peligro' tras incidentes de seguridad con modelos de Anthropic y OpenAI
El periodista Sebastian Mallaby, autor de un libro sobre DeepMind y Demis Hassabis, afirmó en una entrevista con Chatham House que la humanidad atraviesa 'un momento de peligro' por el avance de la IA. Citó dos…
-
El exjefe de IA responsable de Meta relativiza el riesgo existencial y pide regulación global coordinada
Cristian Canton, exdirector de IA Responsable de Meta y actual director asociado del BSC, afirma en una entrevista que la advertencia del exingeniero de Anthropic Jacob Coxon sobre un riesgo existencial de la IA antes…
-
Exinvestigadores de Google DeepMind alertan sobre riesgos existenciales de la IA y falta de alineación
Bilal Chughtai y Josh Engels, exinvestigadores de seguridad de Google DeepMind que dejaron sus cargos en julio y agosto respectivamente, advierten públicamente que los mecanismos actuales de alineación de IA son…
-
Bill Gates pide evaluar una desaceleración en el desarrollo de la inteligencia artificial
Bill Gates dijo en una entrevista a NDTV que debería considerarse ralentizar el desarrollo de la IA para dar tiempo a la sociedad a adaptarse. Señaló casos de modelos que aprendieron a 'hacer trampa' en el entrenamiento…
-
La Nación recopila 16 renuncias en empresas de IA por temor al riesgo existencial de la tecnología
El artículo recopila declaraciones de al menos siete exempleados de Google DeepMind, Anthropic y OpenAI que renunciaron desde 2024 expresando preocupación por los riesgos existenciales de la IA. Entre ellos figuran…
-
Otro investigador de Google DeepMind dimite y advierte que la IA 'podría matarnos a todos'
Bilal Chughtai, exingeniero de alineamiento y seguridad de IA en Google DeepMind, anunció su renuncia en X y LinkedIn afirmando que la IA 'tiene el potencial de matarnos a todos'. Es la tercera dimisión relevante en un…
-
OpenAI, Google DeepMind y Anthropic coordinan esfuerzos de seguridad en IA
OpenAI comenzó conversaciones con Anthropic y Google DeepMind para coordinar medidas de seguridad frente a riesgos de la IA, según reveló Chris Lehane, responsable de políticas globales de OpenAI, en Washington. Lehane…
-
Dos exingenieros de seguridad de Google DeepMind renuncian y alertan sobre riesgos de la IA avanzada
Bilal Chughtai y Josh Engels, dos ingenieros del equipo de seguridad de AGI de Google DeepMind, renunciaron hace unas tres semanas para unirse a METR, una ONG que evalúa riesgos de modelos de frontera. Ambos publicaron…
-
Otro exinvestigador de Google DeepMind alerta sobre riesgos existenciales de la IA
Bilal Chughtai, exinvestigador de seguridad y alineación de IA en Google DeepMind, renunció y publicó en X y LinkedIn que la IA 'tiene el potencial de acabar con todos nosotros'. Se suma a otros casos recientes, como la…
-
Jensen Huang niega base científica a las predicciones apocalípticas sobre la IA y Trump interviene en vivo
Jensen Huang, CEO de Nvidia, afirmó en el All-In Summit que las predicciones sobre extinción humana por IA 'son inventadas' y no están basadas en ciencia. Durante la entrevista, Trump se sumó por teléfono y calificó de…
-
Un exinvestigador de Google DeepMind advierte que la IA "tiene el potencial de matarnos a todos"
Bilal Chughtai, exingeniero de investigación en Google DeepMind que trabajó en seguridad y alineación de IA, renunció en julio de 2026 y declaró en X que la IA "tiene el potencial de matarnos a todos". Pidió…
-
Dos investigadores de seguridad de Google DeepMind renuncian por temor a riesgos existenciales de la IA
Bilal Chughtai y Josh Engels dejaron el equipo de seguridad de AGI de Google DeepMind, sumándose a otras renuncias recientes en Anthropic y OpenAI. Chughtai afirmó públicamente que la IA tiene potencial de "matarnos a…
-
Ingeniero de software critica el alarmismo sin fundamento sobre riesgos existenciales de la IA
Bryan Cantrill responde a un tweet del exempleado de Anthropic Jacob Coxon, quien afirmó que muchos investigadores de Anthropic creen que la IA 'podría matarnos a todos antes de que acabe la década'. Cantrill argumenta…
-
Timnit Gebru cuestiona el discurso del riesgo existencial de la IA y señala daños reales como distracción
En una entrevista con WIRED, la investigadora Timnit Gebru critica el debate sobre riesgo existencial de la IA surgido tras la renuncia de un empleado de Anthropic y la polémica por un problema matemático resuelto…
-
Un investigador de modelos frontera cuestiona el riesgo de que la IA cree un virus capaz de extinguir a la humanidad
El artículo de Xataka analiza el debate sobre el riesgo existencial de la IA, partiendo de la estimación del 10% de Evan Hubinger (Anthropic) de que la IA acabe con la humanidad. David Bellamy, del Institute of…
-
Análisis recopila cinco riesgos de la IA: extinción, empleo, salud, seguridad y dependencia cognitiva
El artículo repasa advertencias sobre la IA a partir de la renuncia de Jacob Coxon, exinvestigador de Anthropic y OpenAI, e informes de la propia Anthropic sobre usos maliciosos de Claude entre diciembre de 2025 y…
-
Renuncias en Anthropic y OpenAI reavivan el debate sobre riesgo existencial de la IA
El exingeniero Jacob Coxon dejó Anthropic advirtiendo que la IA podría acabar con la humanidad antes de 2030, y otro empleado, Evan Hubinger, estimó en un 10% las probabilidades de ese escenario en la próxima década…
-
Hinton, Yampolskiy y Kokotajlo coinciden en advertir sobre riesgo existencial de la IA avanzada
Geoffrey Hinton, Roman Yampolskiy y Daniel Kokotajlo (exinvestigador de OpenAI) coinciden en advertir sobre riesgos graves de la carrera hacia la AGI. Kokotajlo afirma que ninguna gran empresa (OpenAI, Google) frenará…
-
Exingeniero de Anthropic reitera advertencias sobre riesgo existencial de la IA
Un exingeniero de Anthropic volvió a declarar públicamente que existe 'miedo genuino' entre trabajadores de IA respecto a riesgos existenciales, y advirtió que un enjambre de bots descontrolado podría surgir en un plazo…
-
Renuncia en Anthropic y declaraciones de su jefe de alineación reavivan el debate sobre riesgo existencial de la IA
El investigador Jacob Coxon dejó Anthropic alegando que las principales empresas de IA están 'jugando con nuestras vidas'. El responsable de alineación de Anthropic respondió públicamente afirmando que la IA podría…
-
Un análisis recopila cinco escenarios de riesgo existencial de la IA planteados por directivos de Anthropic
El artículo repasa el ensayo 'The Adolescence of Technology' de Dario Amodei (enero 2026) que describe cinco vías por las que la IA podría suponer un riesgo existencial: pérdida de control, uso destructivo, toma de…
-
Musk tacha de 'operación psicológica' las advertencias de empleados de Anthropic sobre riesgos de la IA
Elon Musk calificó de 'trampa' y 'operación psicológica' las advertencias sobre riesgos existenciales de la IA difundidas por investigadores y empleados de Anthropic, tras la renuncia pública de Jacob Coxon. Varios…
-
Exempleados de OpenAI, Google y Anthropic alertan sobre riesgos no controlados de la IA
El País recopila testimonios de una decena de investigadores, directivos y expertos que abandonaron OpenAI, Google o Anthropic. Estas personas han denunciado en los últimos años fallos de seguridad, usos militares…
-
Silicon Valley intensifica advertencias sobre riesgos existenciales de la IA tras renuncia en Anthropic
Un exempleado de Anthropic, Jacob Coxon, renunció acusando a Anthropic y OpenAI de avanzar hacia una IA superinteligente sin control adecuado, lo que reavivó el debate público sobre riesgos existenciales. Investigadores…
-
Analistas cuestionan si las advertencias de Anthropic y OpenAI sobre riesgo existencial de la IA son alarmismo o estrategia comercial
Un ingeniero de Anthropic, Jacob Coxon, renunció denunciando que la empresa cree que la IA podría matarnos antes de que acabe la década; su jefe, Evan Hubinger, confirmó que estiman más de un 10% de probabilidad de…
-
Musk cuestiona denuncias de exinvestigador de Anthropic sobre riesgos de la IA
El exinvestigador de Anthropic Jacob Coxon advirtió sobre riesgos de la IA avanzada, lo que generó un debate en X. Elon Musk calificó las publicaciones como una posible 'trampa' o montaje, mientras Bill Ackman y David…
-
Investigador de Anthropic renuncia y advierte de riesgo de superinteligencia autónoma antes de posible OPV
Un investigador de Anthropic renunció esta semana y publicó en X que la empresa está 'corriendo directamente hacia una superinteligencia autoperfeccionable y apostando con nuestras vidas'. El responsable de alineamiento…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.