Líderes de IA piden frenar el desarrollo por temor a perder el control
Resumen En qué punto está
Los máximos responsables de Anthropic, Google DeepMind, OpenAI, xAI y ahora Microsoft han pedido públicamente moderar el ritmo de desarrollo de la IA, con propuestas de supervisión externa y evaluadores independientes. Dario Amodei publicó un ensayo detallado con un plan de tres pasos, y Sam Altman y Satya Nadella se sumaron con advertencias sobre pérdida de control humano. El debate, alimentado por estimaciones de riesgo existencial de investigadores de Anthropic, provocó caídas bursátiles en Asia y en el Ibex 35. El gobierno de Trump mantiene su negativa a frenar por la competencia con China, mientras críticos cuestionan la sinceridad de estas advertencias del propio sector.
Resumen generado mediante IA a partir de las 8 noticias de la historia. Última actualización: 15 sep.
Qué ha cambiado
Los líderes de Anthropic, Google DeepMind, OpenAI y xAI habían pedido moderar el desarrollo con propuestas distintas de supervisión, generando caídas bursátiles en Asia y el Ibex.
Satya Nadella (Microsoft) se sumó públicamente al llamado con un código de conducta propio, Amodei publicó un ensayo extenso con un plan concreto de tres pasos, y Jakub Pachocki (OpenAI) pidió desaceleración voluntaria como norma, mientras persisten críticas sobre la sinceridad de estas posturas.
La incorporación de Microsoft amplía el consenso más allá de los laboratorios de IA pura hacia grandes proveedores de infraestructura, y la propuesta concreta de Amodei da mayor concreción al debate, aunque persiste la falta de acción regulatoria efectiva y la resistencia del gobierno de EE.UU.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
Amodei propone frenar el desarrollo de IA avanzada y Altman y Musk se suman al llamado
Dario Amodei, CEO de Anthropic, propuso un plan de tres pasos para ralentizar el desarrollo de IA avanzada, incluyendo evaluadores externos con 'acceso de empleado' y coordinación entre laboratorios de naciones…
-
Líderes de IA de Anthropic, OpenAI, Google y Microsoft coinciden en pedir frenar el ritmo de desarrollo
Dario Amodei (Anthropic) publicó un ensayo de casi 4.000 palabras pidiendo desacelerar la mejora de capacidades de IA para evitar una carrera hacia el fondo con riesgos catastróficos. Sam Altman (OpenAI) mostró su…
-
Satya Nadella se suma a la petición de líderes tecnológicos de frenar la IA descontrolada
Satya Nadella, CEO de Microsoft, declaró en X que cualquier iniciativa hacia la superinteligencia debe garantizar que la IA ayude a la humanidad y esté bajo control humano. Se sumó así a declaraciones similares de Dario…
-
Sam Altman advierte que la IA podría hacer perder el control del futuro
Sam Altman, director de OpenAI, lanzó una advertencia sobre los riesgos de la inteligencia artificial, señalando que su desarrollo podría llevar a perder el 'control del futuro' y que la situación 'podría salir muy…
-
Un artículo analiza el debate sobre riesgo existencial de la IA y sus críticas
Un investigador de Anthropic, Jacob Coxon, afirmó públicamente que la IA 'puede matarnos a todos al final de la década', y Evan Hubinger, de la misma empresa, estimó en 10% el riesgo de extinción en la próxima década…
-
El debate sobre frenar la IA provoca caídas bursátiles en Asia y arrastra a ACS y Solaria en el Ibex
Las bolsas asiáticas registraron caídas generalizadas este lunes tras declaraciones de líderes de IA a favor de desacelerar su desarrollo por riesgos de seguridad, con el Kospi cayendo más del 3%, SoftBank un 10,72% y…
-
Directivos de IA piden frenar el desarrollo ante temor a perder el control de la tecnología
Más de 1.300 empleados de empresas de IA firmaron una carta en julio pidiendo ralentizar el desarrollo de la tecnología. Dario Amodei (Anthropic), Sam Altman (OpenAI) y Demis Hassabis (Google DeepMind) han respaldado…
-
Los cuatro grandes jefes de IA piden frenar el desarrollo, pero con propuestas distintas
En menos de dos días, los líderes de Anthropic, Google DeepMind, OpenAI y xAI se pronunciaron sobre la necesidad de moderar el ritmo de desarrollo de la IA. Dario Amodei (Anthropic) propone auditores externos con acceso…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.