Investigador de Anthropic renuncia y advierte sobre riesgo existencial de la IA antes de 2030
Hecho Qué ha ocurrido
Jacob Coxon, exingeniero de preentrenamiento en OpenAI y Anthropic, renunció y anunció que se aparta de la industria de IA, alegando que la carrera entre laboratorios acelera el desarrollo de sistemas sin garantías de control suficientes. En X afirmó que algunas personas del sector creen que la IA podría causar una catástrofe para 2030. Evan Hubinger, investigador de alineación, respaldó públicamente la preocupación y estimó un riesgo superior al 10% de que la IA provoque la extinción humana en la próxima década.
Resumen generado mediante IA a partir de Enter.co. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una señal más de que voces internas de laboratorios líderes expresan dudas serias sobre el ritmo de la carrera de IA, lo que alimenta el debate regulatorio y de gobernanza.
- Quién se ve afectado
- Laboratorios de IA, reguladores, inversores y profesionales que dependen de la confianza pública en la seguridad de la IA.
- Qué puede cambiar
- Podría reforzar propuestas de coordinación entre laboratorios o límites regulatorios sobre el desarrollo de sistemas cada vez más capaces, aunque no hay evidencia de cambios inmediatos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si otros investigadores de laboratorios top hacen declaraciones similares, si surgen propuestas concretas de moderación entre laboratorios estadounidenses, y la reacción de OpenAI y Anthropic a estas críticas.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Enter.co. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineación AnthropicOpenAI alineación Anthropic OpenAI riesgo existencial seguridad de la IA
Forma parte de la historia Empleados de Anthropic advierten sobre riesgo existencial de la IA (3 noticias, estado: evolución rápida).
Relacionadas
Ingeniero de Anthropic dimite alegando riesgo existencial de la IA
Jacob Coxon, exempleado de Anthropic y OpenAI, ha renunciado a su puesto afirmando que quienes desarrollan IA creen que podría suponer un riesgo existencial…
Por qué importaEstas dimisiones reflejan tensiones internas en las principales empresas de IA sobre la gestión del riesgo frente a la presión competitiva, algo…
Investigador de alineación de Anthropic apoya en X advertencia viral sobre riesgo existencial de la IA
Evan Hubinger, líder de ciencia de alineación de Anthropic, respondió en redes sociales a un mensaje viral de Jacob Coxon (más de 60 millones de visitas) que…
Por qué importaLa declaración proviene de un empleado clave de una de las empresas líderes en seguridad de IA, lo que da peso a las preocupaciones sobre riesgo…
Investigador deja Anthropic y OpenAI advirtiendo de riesgo existencial de la IA
El investigador Jacob Coxon, que trabajó en OpenAI (2023-2026) y luego en Anthropic, ha dimitido y publicado en X que quienes construyen IA creen que podría…
Por qué importaRefleja una tensión creciente entre el discurso público moderado de los laboratorios de IA y los temores privados de sus propios investigadores sobre…
Investigador de Anthropic dimite alegando riesgo existencial de la IA antes de 2030
Jacob Coxon, investigador de Anthropic, dimitió afirmando que la IA podría acabar con la humanidad antes de 2030. Según el extracto, su jefe le apoyó y estimó…
Por qué importaQue voces internas de una de las principales empresas de IA expresen públicamente temores existenciales alimenta el debate sobre seguridad y…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.