Un análisis recopila cinco escenarios de riesgo existencial de la IA planteados por directivos de Anthropic
Hecho Qué ha ocurrido
El artículo repasa el ensayo 'The Adolescence of Technology' de Dario Amodei (enero 2026) que describe cinco vías por las que la IA podría suponer un riesgo existencial: pérdida de control, uso destructivo, toma de poder autoritaria, colapso económico y efectos indirectos. Cita también la afirmación pública de Evan Hubinger, de Anthropic, de que la probabilidad de que la IA acabe con la humanidad en la próxima década supera el 10%, y la renuncia de Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, acusando a ambas empresas de correr hacia una superinteligencia incontrolable. Se mencionan datos concretos como que Anthropic activó protecciones ASL-3 para Claude Opus 4 con un coste cercano al 5% del gasto de cómputo, y un estudio del MIT que halló que 36 de 38 proveedores de síntesis genética aceptaron un pedido con la secuencia de la gripe de 1918.
Resumen generado mediante IA a partir de WWWhat's new. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
El debate sobre riesgo existencial ya no es marginal: viene de dentro de las principales empresas de IA y empieza a incluir cifras concretas de probabilidad, lo que puede influir en regulación y en la percepción pública sobre el ritmo de desarrollo.
- Quién se ve afectado
- Empresas de IA, reguladores, responsables de seguridad y cumplimiento, y sociedad en general.
- Qué puede cambiar
- Puede acelerar la presión regulatoria y la exigencia de evaluaciones externas de seguridad en modelos avanzados, además de reforzar medidas de protección como las capas ASL en modelos frontera.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si otras empresas publican cifras similares de riesgo, si se materializan renuncias adicionales por desacuerdos de seguridad, y si reguladores como la UE o EEUU responden con nuevas exigencias de transparencia.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: WWWhat's new. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentes AnthropicOpenAI alineamiento Anthropic Dario Amodei riesgo existencial seguridad IA
Forma parte de la historia Renuncias por temor existencial se multiplican en los grandes laboratorios de IA (29 noticias, estado: alto impacto).
Relacionadas
Bill Gates pide ralentizar el desarrollo de la IA por falta de preparación social
Bill Gates afirmó en una entrevista con NDTV que el desarrollo de la inteligencia artificial debería ralentizarse porque la sociedad no está preparada para sus…
Por qué importaLas declaraciones de una figura histórica de la innovación tecnológica suman peso al debate sobre riesgos de la IA, en un contexto donde ejecutivos…
Inma Martínez: la IA no puede matarnos, pero puede dejarnos sin dinero, comida o luz
La investigadora española Inma Martínez, asesora de gobiernos y organismos internacionales en IA, valora en una entrevista con ABC el debate reciente sobre…
Por qué importaAporta una perspectiva crítica sobre los incentivos reales detrás de los llamados de 'seguridad' de las grandes IA, relevante para entender el debate…
Sebastian Mallaby advierte de un 'momento de peligro' tras incidentes de seguridad con modelos de Anthropic y OpenAI
El periodista Sebastian Mallaby, autor de un libro sobre DeepMind y Demis Hassabis, afirmó en una entrevista con Chatham House que la humanidad atraviesa 'un…
Por qué importaLos incidentes muestran que los propios laboratorios líderes pierden en parte el control de sus sistemas más avanzados, lo que alimenta la presión…
El exjefe de IA responsable de Meta relativiza el riesgo existencial y pide regulación global coordinada
Cristian Canton, exdirector de IA Responsable de Meta y actual director asociado del BSC, afirma en una entrevista que la advertencia del exingeniero de…
Por qué importaEs la opinión de un experto con experiencia directa en gobernanza de riesgos de IA en Meta, que aporta matices frente a discursos alarmistas de…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.