Investigador de Anthropic estima más de 10% de riesgo de extinción humana por IA en una década
Hecho Qué ha ocurrido
Evan Hubinger, investigador de seguridad de Anthropic, respaldó públicamente la renuncia y críticas de Jacob Coxon, exempleado que dejó la compañía el 8 de septiembre de 2026 tras dos meses. Hubinger afirmó que estima en más de 10% la probabilidad de que una futura superinteligencia provoque la extinción humana en los próximos diez años y admitió que Anthropic no tiene un plan para resolver el problema de alineación. Coxon había cuestionado en X, con más de 44 millones de vistas, la velocidad de OpenAI y Anthropic hacia sistemas potencialmente incontrolables.
Resumen generado mediante IA a partir de ITSitio. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La admisión pública de un investigador activo en un laboratorio líder, reconociendo falta de soluciones de alineación mientras la empresa prepara una posible salida a bolsa, expone una tensión entre discurso de seguridad y presión competitiva.
- Quién se ve afectado
- Laboratorios de IA de frontera, inversores, reguladores y empresas que dependen de modelos avanzados de Anthropic y OpenAI.
- Qué puede cambiar
- Podría intensificarse el escrutinio regulatorio y de inversores sobre las prácticas de seguridad de Anthropic, especialmente de cara a su eventual IPO.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar reacciones oficiales de Anthropic y OpenAI, nuevas renuncias de investigadores de seguridad, y posibles cambios en compromisos públicos de seguridad o en la política regulatoria hacia IA de frontera.
Recomendación Qué debería hacer una empresa
Empresas que dependan de modelos de frontera deberían monitorear en los próximos 6-12 meses los compromisos de seguridad y gobernanza de sus proveedores de IA antes de ampliar su dependencia estratégica.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: ITSitio. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineaciónsuperinteligencia AnthropicOpenAI alineación Anthropic OpenAI riesgo existencial seguridad IA
Forma parte de la historia Anthropic: renuncia y advertencia interna sobre riesgo existencial de la IA (7 noticias, estado: alto impacto).
Relacionadas
Investigadores de IA renuncian y advierten sobre riesgo existencial de la autosuperación recursiva
Un exinvestigador de Google DeepMind, Rishub Jain, y el investigador de Anthropic Jacob Coxon renunciaron citando temores sobre la autosuperación recursiva de…
Por qué importaLas advertencias provienen de insiders con acceso directo a los laboratorios de frontera, lo que eleva la credibilidad del debate sobre riesgos…
Trump descarta riesgo existencial de la IA y prioriza la ventaja frente a China
Donald Trump declaró a periodistas que no le preocupa que la IA pueda extinguir a la humanidad, y afirmó que su prioridad es mantener la ventaja tecnológica de…
Por qué importaLas declaraciones muestran que la posición oficial de EEUU frente a la IA prioriza la competitividad geopolítica sobre la cautela regulatoria…
Investigador que renunció a Anthropic advierte que los próximos dos años definirán el riesgo existencial de la IA
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció y publicó en X una advertencia sobre riesgos existenciales de la IA que superó los 100 millones de…
Por qué importaEstas declaraciones de insiders añaden presión pública y regulatoria sobre los laboratorios de IA justo cuando Anthropic prepara una posible salida a…
Podcast de Wired debate la renuncia de investigador de Anthropic por riesgo existencial de IA
El podcast Uncanny Valley de Wired discute la renuncia de Jacob Coxon, exinvestigador de Anthropic, quien afirmó que quienes construyen IA creen que podría…
Por qué importaEl debate refleja tensiones internas en los principales laboratorios de IA sobre los riesgos de sus propios sistemas, lo que puede influir en la…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.