Empleados de Anthropic advierten sobre riesgo existencial de la IA
Resumen En qué punto está
Jacob Coxon, exingeniero de preentrenamiento que trabajó en OpenAI y Anthropic, renunció a su puesto y anunció que se retira de la industria, alegando que la competencia entre laboratorios acelera el desarrollo de sistemas de IA sin garantías suficientes de control. Evan Hubinger, líder de ciencia de alineación en Anthropic, respaldó públicamente la preocupación, estimando una probabilidad superior al 10% de que la IA cause la extinción humana en la próxima década, y admitió que la empresa aún carece de un plan claro para resolver la alineación de una superinteligencia. El caso se suma a precedentes similares de renuncias por motivos parecidos en OpenAI (Saunders, Kokotajlo, Leike en 2024). Académicos como Melanie Mitchell han cuestionado estas alarmas por carecer de base empírica.
Resumen generado mediante IA a partir de las 3 noticias de la historia. Última actualización: 10 sep.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
Investigador de Anthropic renuncia y advierte sobre riesgo existencial de la IA antes de 2030
Jacob Coxon, exingeniero de preentrenamiento en OpenAI y Anthropic, renunció y anunció que se aparta de la industria de IA, alegando que la carrera entre laboratorios acelera el desarrollo de sistemas sin garantías de…
-
Ingeniero de Anthropic dimite alegando riesgo existencial de la IA
Jacob Coxon, exempleado de Anthropic y OpenAI, ha renunciado a su puesto afirmando que quienes desarrollan IA creen que podría suponer un riesgo existencial antes de que termine la década. Su antiguo jefe, Evan…
-
Investigador de alineación de Anthropic apoya en X advertencia viral sobre riesgo existencial de la IA
Evan Hubinger, líder de ciencia de alineación de Anthropic, respondió en redes sociales a un mensaje viral de Jacob Coxon (más de 60 millones de visitas) que planteaba que una superinteligencia podría matar a toda la…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.