Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial de IA en la próxima década
Hecho Qué ha ocurrido
Evan Hubinger, investigador de alineación de Anthropic, publicó el 9 de septiembre de 2026 en X que estima una probabilidad superior al 10% de que la IA 'pueda matar a todos los humanos' en los próximos diez años, en respuesta a un post de Jacob Coxon, quien acaba de dimitir de Anthropic tras haber trabajado en OpenAI. Según el Financial Times, Anthropic retuvo su último modelo de la evaluación del AI Security Institute británico. El informe de seguridad de agosto de 2026 de Anthropic califica el riesgo actual como 'bajo' pero dice estar 'menos segura' de esa evaluación y detecta 'señales tempranas de posible aceleración'. Una carta firmada por 1.300 empleados de empresas de IA pidió a EE.UU. apoyar un esfuerzo internacional de gobernanza.
Resumen generado mediante IA a partir de WWWhat's new. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una advertencia interna, no externa, sobre el ritmo de capacidades frente a la capacidad de control, lo que eleva el peso epistémico del mensaje para inversores y reguladores. La ambigüedad entre advertencia honesta y estrategia de foso regulatorio complica la interpretación para quienes deben decidir sobre adopción o inversión en estas tecnologías.
- Quién se ve afectado
- Inversores en laboratorios de IA, reguladores, directivos que evalúan adopción de modelos de frontera y equipos de gobernanza de riesgo de empresas tecnológicas.
- Qué puede cambiar
- Puede acelerar presión regulatoria internacional y escrutinio previo a las salidas a bolsa de Anthropic y OpenAI, además de reforzar exigencias de auditoría independiente de modelos de frontera.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si Anthropic finalmente somete su modelo al AISI británico, nuevas dimisiones de investigadores de seguridad, y avances en el tratado multinacional propuesto por el Reino Unido.
Recomendación Qué debería hacer una empresa
Los equipos de riesgo corporativo y compliance deberían monitorear en los próximos 3-6 meses las evaluaciones de seguridad publicadas por los laboratorios de frontera antes de comprometer contratos a largo plazo con modelos de última generación.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: WWWhat's new. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineación de IA AnthropicOpenAI alineación Anthropic Evan Hubinger regulación de IA riesgo existencial
Forma parte de la historia Anthropic: renuncia y advertencia interna sobre riesgo existencial de la IA (7 noticias, estado: alto impacto).
Relacionadas
Investigadores de IA renuncian y advierten sobre riesgo existencial de la autosuperación recursiva
Un exinvestigador de Google DeepMind, Rishub Jain, y el investigador de Anthropic Jacob Coxon renunciaron citando temores sobre la autosuperación recursiva de…
Por qué importaLas advertencias provienen de insiders con acceso directo a los laboratorios de frontera, lo que eleva la credibilidad del debate sobre riesgos…
Trump descarta riesgo existencial de la IA y prioriza la ventaja frente a China
Donald Trump declaró a periodistas que no le preocupa que la IA pueda extinguir a la humanidad, y afirmó que su prioridad es mantener la ventaja tecnológica de…
Por qué importaLas declaraciones muestran que la posición oficial de EEUU frente a la IA prioriza la competitividad geopolítica sobre la cautela regulatoria…
Investigador que renunció a Anthropic advierte que los próximos dos años definirán el riesgo existencial de la IA
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció y publicó en X una advertencia sobre riesgos existenciales de la IA que superó los 100 millones de…
Por qué importaEstas declaraciones de insiders añaden presión pública y regulatoria sobre los laboratorios de IA justo cuando Anthropic prepara una posible salida a…
Podcast de Wired debate la renuncia de investigador de Anthropic por riesgo existencial de IA
El podcast Uncanny Valley de Wired discute la renuncia de Jacob Coxon, exinvestigador de Anthropic, quien afirmó que quienes construyen IA creen que podría…
Por qué importaEl debate refleja tensiones internas en los principales laboratorios de IA sobre los riesgos de sus propios sistemas, lo que puede influir en la…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.