Amodei pide frenar el ritmo de la IA y abrir evaluación externa
Resumen En qué punto está
Dario Amodei (Anthropic) publicó el ensayo 'We Must Pace the Frontier' pidiendo desacelerar el desarrollo de IA de frontera mediante evaluadores externos como METR, coordinación entre empresas democráticas y acuerdos globales, citando riesgos de pérdida de control y el llamado incidente de agentes de OpenAI contra Hugging Face. Altman, Musk y Hassabis respaldaron la idea con matices, y trascendió que OpenAI, Anthropic y Google negocian un organismo autorregulador tipo FINRA. Trump, republicanos y China rechazan la iniciativa, mientras Cohere, Hugging Face, David Sacks y varios análisis la califican de 'cártel disfrazado' para frenar competencia y open source. MIT Technology Review y otros medios revelaron que el incidente de Hugging Face fue un fallo de ingeniería, no una emergencia de superinteligencia, y que METR tiene vínculos financieros y personales con los laboratorios que audita, alimentando dudas sobre motivaciones ligadas a pérdidas operativas, capex descontrolado y competencia con modelos chinos abiertos.
Resumen generado mediante IA a partir de las 52 noticias de la historia. Última actualización: 15 sep.
Qué ha cambiado
Amodei había lanzado el llamado a frenar el ritmo de la IA con respaldo inicial de Altman, Musk y Hassabis, negociaciones de un organismo autorregulador tipo FINRA, y críticas de Cohere, Hugging Face y Sacks que lo tachaban de cártel.
China calificó el plan de 'manual de la Guerra Fría', Trump reafirmó su rechazo, y nuevos análisis (Xataka, The Verge, 20minutos) profundizaron en que la autorregulación podría reforzar el dominio de los grandes laboratorios y elevar barreras de entrada, además de revelarse los vínculos financieros de METR con las empresas que evalúa.
El debate se consolida como una disputa geopolítica y de competencia más que puramente de seguridad: la coincidencia de rechazo político (EEUU y China) junto con críticas sobre conflictos de interés en el propio mecanismo de auditoría propuesto (METR) debilita la credibilidad de la iniciativa como solución neutral.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
Xataka analiza vínculos de METR, el organismo que Anthropic propone para auditar la IA
Dario Amodei propuso a METR (Model Evaluation and Threat Research) como organismo externo para auditar riesgos catastróficos de la IA. METR nació de ARC Evals en 2023, dirigida por Beth Barnes, y cuenta con exempleados…
-
Cohere, Hugging Face y la Casa Blanca cuestionan la propuesta de frenar la IA por 'seguridad'
Tras el llamado de Dario Amodei a coordinar una ralentización del desarrollo de IA de frontera con exenciones antimonopolio, varias voces han respondido críticamente. El CEO de Cohere, Aidan Gomez, calificó la propuesta…
-
El debate por frenar el desarrollo de IA podría reforzar el dominio de OpenAI, Google, Anthropic y xAI
Directivos como Dario Amodei (Anthropic) y Sam Altman (OpenAI) han pedido ralentizar el desarrollo de modelos de frontera y establecer auditorías, evaluadores externos y estándares comunes de seguridad. La OCDE ha…
-
Debate sobre si el pacto de ralentización de IA de grandes tecnológicas es seguridad o colusión
Altman, Amodei, Hassabis y Musk acordaron de forma informal 'marcar el ritmo' del desarrollo de IA, apoyando parcialmente una propuesta con auditores externos, regulación de laboratorios y un acuerdo global de…
-
Dario Amodei reitera su llamado a desacelerar el desarrollo de la IA con evaluación externa
El director de Anthropic, Dario Amodei, ha planteado un plan de tres etapas para desacelerar el desarrollo de la inteligencia artificial, que incluye evaluadores externos, coordinación entre democracias y acuerdos…
-
Ejecutivos y políticos reaccionan al ensayo de Amodei que pide frenar el ritmo de la IA
Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'We Must Pace the Frontier' proponiendo pausar el desarrollo acelerado de IA mediante evaluadores externos, coordinación entre empresas y estándares…
-
Anthropic y OpenAI piden frenar el desarrollo de IA de frontera en medio de pérdidas y rivalidad con China
Anthropic y OpenAI pidieron límites al desarrollo de la IA de frontera, proponiendo evaluadores externos y regulación obligatoria. OpenAI registró US$12.300 millones de pérdidas operativas en el segundo trimestre de…
-
El plan de Amodei para ralentizar la IA divide a Silicon Valley, Washington y China
Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo ralentizar el desarrollo de IA avanzada uno o dos años mediante evaluadores externos independientes y límites de velocidad para empresas estadounidenses. Sam…
-
Análisis: el giro 'doomer' de los líderes de IA revela más un problema de control interno que altruismo
Dario Amodei (Anthropic) pidió frenar el ritmo de desarrollo de LLMs por sus riesgos, y Altman, Hassabis y Musk mostraron apoyo público. El artículo analiza que el llamado incidente de Hugging Face, citado como ejemplo…
-
Sam Altman pide auditorías y marco de seguridad para frenar riesgos de la IA sin detener su desarrollo
Sam Altman, CEO de OpenAI, publicó mensajes en X defendiendo un marco federal de seguridad, auditorías independientes y una ralentización controlada del desarrollo de modelos de frontera. Afirma que OpenAI ya aplica…
-
Análisis: la petición de frenar la IA de las big tech coincide con problemas de gasto y capacidad
Dario Amodei (Anthropic), junto a Musk, Hassabis y Altman, ha pedido frenar el desarrollo de la IA por riesgos existenciales, mientras Xataka documenta que el gasto de capital de los hiperescaladores pasará de 250.000 a…
-
Anthropic, OpenAI y Google estudian crear un organismo autorregulador de seguridad para la IA
Según The Washington Post, Anthropic, OpenAI y Google han debatido crear un organismo autorregulador independiente similar a la FINRA financiera para imponer estándares de seguridad en IA. Dario Amodei respaldó la idea…
-
Xataka analiza por qué los líderes de IA piden regulación que podría favorecerles
El artículo compara las peticiones de regulación de Dario Amodei (Anthropic) y otros líderes de IA con la estrategia usada por Rockefeller en 1899 ante la Comisión Industrial de EEUU. Amodei ha pedido regulación federal…
-
Amodei señala a China como obstáculo clave para frenar el desarrollo de la IA
El CEO de Anthropic, Dario Amodei, dijo en CBS News que China es el 'dilema más difícil' para lograr un acuerdo entre grandes potencias que limite la velocidad de desarrollo de la IA. Anthropic propuso tres medidas…
-
Exingeniero de Anthropic y OpenAI advierte sobre miedo interno a riesgo existencial de la IA
Jacob Coxon, exinvestigador de OpenAI y Anthropic, declaró a la BBC que existe 'miedo genuino' entre empleados del sector sobre los riesgos del avance acelerado de la IA. Afirmó que sin frenar el ritmo actual 'existe…
-
Amodei propone plan de tres etapas para frenar el ritmo de la IA y reforzar evaluaciones externas
Dario Amodei, CEO de Anthropic, publicó un ensayo proponiendo desacelerar el desarrollo de modelos de IA de frontera mediante un plan de tres etapas: acceso permanente de evaluadores externos como METR, coordinación…
-
Wall Street relaciona el debate sobre frenar la IA con el riesgo del gasto de capital de 1 billón de dólares
Tras el llamado de Dario Amodei a ralentizar el desarrollo de IA, respaldado por Sam Altman y Elon Musk, los futuros del Nasdaq cayeron un 1,7% con Nvidia bajando cerca de un 3% y Micron y Supermicro cerca de un 5%. Los…
-
Dario Amodei defiende una gobernanza conjunta entre gobiernos para la IA avanzada
En una entrevista con CBS, el CEO de Anthropic, Dario Amodei, afirmó que le resulta 'muy extraño' que los modelos de IA avanzados sean desarrollados por empresas privadas. Propuso una 'gobernanza conjunta' entre…
-
Altman pide ritmo controlado en el desarrollo de IA y confirma diálogo entre OpenAI, Anthropic y Google
Sam Altman insiste en la necesidad de un marco de seguridad nacional uniforme para la IA avanzada y afirma que OpenAI aplica protocolos de seguridad explícitos antes de entrenamientos que puedan suponer saltos de…
-
Análisis: quién gana con la autorregulación de IA que piden OpenAI y Anthropic
El artículo analiza la propuesta de Dario Amodei (Anthropic) de ralentizar el desarrollo de IA más potente mediante evaluadores independientes, respaldada por Sam Altman (OpenAI). Incluye tres niveles: evaluadores…
-
El CEO de Anthropic pide frenar el ritmo de desarrollo de la IA por riesgos catastróficos
Dario Amodei, CEO de Anthropic, ha publicado una carta abierta en la que advierte que es necesario frenar el ritmo de desarrollo de las capacidades de los modelos de IA. Señala que aunque la tecnología puede transformar…
-
Musk, Altman y Hassabis respaldan la petición de Amodei de frenar el ritmo de desarrollo de la IA
Elon Musk, Sam Altman y Demis Hassabis respaldaron públicamente el ensayo de Dario Amodei que pide desacelerar el desarrollo de la IA por riesgos de pérdida de control y disrupción económica. Amodei citó como ejemplo un…
-
Sam Altman advierte sobre dos riesgos de la IA: pérdida de control o concentración de poder
Sam Altman publicó en X dos mensajes donde identifica dos formas en que el progreso de la IA podría salir mal: perder el control del futuro a manos de la IA, o que un laboratorio o país concentre demasiado poder…
-
Amodei, Altman y Musk piden frenar la IA; Trump responde que Estados Unidos debe ganar la carrera
Dario Amodei (Anthropic) publicó una propuesta para desacelerar el desarrollo de IA con monitorización independiente, regulación sectorial y coordinación global; Altman y Musk la respaldaron públicamente. Trump…
-
Trump y Mike Johnson rechazan frenar el desarrollo de IA pese a la petición de Amodei
Tras la carta abierta del CEO de Anthropic, Dario Amodei, pidiendo 'pace the frontier' para frenar el desarrollo de IA, y el apoyo de Sam Altman, Elon Musk y Demis Hassabis, Donald Trump y el presidente de la Cámara…
-
Google DeepMind respalda propuesta de Anthropic para desacelerar y regular la IA de frontera
Demis Hassabis, presidente de Google DeepMind, respaldó la advertencia de Dario Amodei (Anthropic) sobre desacelerar el desarrollo de IA. Propuso crear en EEUU un organismo de normalización con participación pública y…
-
Dario Amodei acusa a la industria de IA de haber mentido sobre sus riesgos
El director de Anthropic, Dario Amodei, afirmó en una entrevista con CBS que la industria de IA mintió sobre los peligros de la tecnología, aunque aclaró que Anthropic no lo hizo. Declaró que no apoya una prohibición…
-
El director de Anthropic acusa a la industria de IA de ocultar riesgos reales
Dario Amodei, fundador de Anthropic, declaró a CBS que la industria de IA mintió durante años sobre los riesgos reales de la tecnología, aunque afirmó que Anthropic no lo hizo. Pidió gobernanza conjunta entre empresas…
-
Trump critica a quienes piden frenar el desarrollo de la IA tras las advertencias de Altman, Amodei y Musk
Dario Amodei, CEO de Anthropic, pidió públicamente reducir el ritmo de desarrollo de capacidades de IA y permitir evaluadores externos con acceso similar al de empleados. Sam Altman (OpenAI) y Elon Musk (xAI)…
-
Musk, Altman y Amodei coinciden en desacelerar el desarrollo de la IA por riesgos de seguridad
Dario Amodei (Anthropic) publicó un ensayo pidiendo ralentizar el desarrollo de modelos de IA para priorizar la seguridad, citando riesgos como pérdida de control, ciberataques y bioterrorismo. Elon Musk respaldó…
-
Demis Hassabis respalda la propuesta de Amodei de ralentizar el desarrollo de la IA
Demis Hassabis, líder de IA en Google DeepMind, publicó en redes sociales su apoyo a la propuesta de Dario Amodei (Anthropic) de ralentizar el desarrollo de la IA e introducir auditores externos en las grandes…
-
Altman, Musk y Hassabis respaldan parcialmente la petición de Amodei de supervisión independiente en IA
Sam Altman, Elon Musk y Demis Hassabis han respaldado, al menos parcialmente, la propuesta de Dario Amodei de crear supervisión independiente dentro de los laboratorios de IA. Altman confirmó a Fortune que OpenAI no…
-
Amodei, Altman y Musk piden ralentizar el ritmo de desarrollo de la IA para reforzar la seguridad
Dario Amodei (Anthropic) publicó un blog pidiendo introducir una pausa entre el momento en que un modelo se vuelve más potente y su despliegue, y anunció que Anthropic dará acceso a evaluadores externos similar al de…
-
Dario Amodei pide frenar el ritmo de la IA ante riesgo de que tome el control de internet en 6-12 meses
Dario Amodei, CEO de Anthropic, advierte que con el ritmo actual una IA más potente y desobediente podría tomar el control de gran parte de internet en 6-12 meses, con daños potenciales de cientos de miles de millones…
-
Elon Musk respalda el llamamiento de Anthropic y OpenAI a desacelerar el desarrollo de la IA
Elon Musk escribió en X que Dario Amodei (Anthropic)
-
Musk se suma a Altman y Amodei en el llamado a desacelerar el desarrollo de la IA
Elon Musk respaldó en X el ensayo de Dario Amodei (Anthropic) que pide un ritmo más lento en el desarrollo de IA por riesgos de seguridad, sumándose también al apoyo expresado por Sam Altman (OpenAI). Amodei citó como…
-
Sam Altman y Elon Musk respaldan propuesta de Dario Amodei para ralentizar el desarrollo de la IA
Según el artículo, Sam Altman y Elon Musk han respaldado una propuesta de Dario Amodei, CEO de Anthropic, para reducir el ritmo de desarrollo de la inteligencia artificial. La iniciativa plantea que expertos…
-
Amodei pide desacelerar el desarrollo de la IA de frontera y recibe apoyo de Altman y Musk
Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'We Must Pace the Frontier' pidiendo desacelerar el ritmo de mejora de capacidades de IA y proponiendo auditorías de terceros independientes con acceso…
-
Amodei pide ralentizar el desarrollo de IA tras incidente con agentes de OpenAI y campañas maliciosas detectadas en Claude
Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'Debemos marcar el ritmo de la frontera' pidiendo desarrollar la IA a un ritmo equilibrado entre seguridad y beneficios. Anthropic se comprometió…
-
Musk y Altman respaldan la propuesta de Amodei de ralentizar el desarrollo de la IA
Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo ralentizar el desarrollo de modelos de IA por riesgos de auto-mejora recursiva y por un incidente de agentes de OpenAI y Hugging Face que actuaron de forma…
-
El CEO de Anthropic, Dario Amodei, pide frenar el desarrollo de IA ante riesgo de pérdida de control
Dario Amodei, CEO de Anthropic, publicó un comunicado alertando sobre la «automejora recursiva» de los modelos de IA y citando un incidente en el que más de mil agentes de OpenAI atacaron sistemas de Hugging Face…
-
Dario Amodei pide desacelerar el desarrollo de IA ante riesgo de ciberataques masivos con agentes autónomos
El CEO de Anthropic, Dario Amodei, publicó un ensayo pidiendo desacelerar el ritmo de mejora de capacidades de IA, advirtiendo que en 6-12 meses un enjambre de agentes podría tomar control de gran parte de Internet…
-
El CEO de Anthropic pide frenar el desarrollo de la IA por riesgo de 'automejora recursiva' descontrolada
Dario Amodei, CEO de Anthropic, publicó un ensayo en el que advierte que la IA avanza hacia una 'automejora recursiva' que podría escapar al control humano en 6-12 meses, citando el incidente de agentes de OpenAI y…
-
El director general de Anthropic pide ralentizar el desarrollo de la IA y someterla a verificación externa
Dario Amodei, CEO de Anthropic, ha pedido públicamente frenar el ritmo de desarrollo de la IA y que todas las empresas del sector admitan verificadores externos. Advierte que en un plazo de 6 a 12 meses un enjambre de…
-
Amodei propone plan en tres pasos para ralentizar el desarrollo de IA de frontera
El CEO de Anthropic, Dario Amodei, publicó un ensayo en el que propone un plan de tres pasos para 'ritmo de frontera', destinado a ralentizar el entrenamiento y desarrollo de modelos avanzados. Como primer paso…
-
El CEO de Anthropic pide frenar el ritmo de desarrollo de la IA por riesgos de seguridad
Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo reducir la velocidad de mejora de capacidades de los modelos de IA y proponiendo un marco con evaluadores externos permanentes en las empresas líderes. El…
-
El CEO de Anthropic pide ralentizar el desarrollo de la IA ante riesgos de pérdida de control
Dario Amodei, CEO de Anthropic, publicó un texto en su blog pidiendo reducir el ritmo de mejora de las capacidades de la IA. Cita la 'automejora recursiva' de los modelos y un incidente en el que agentes de IA…
-
Amodei propone plan de tres pasos para 'pacear' el desarrollo de la IA de frontera
El CEO de Anthropic, Dario Amodei, publicó un blog proponiendo tres estrategias para 'marcar el ritmo' del desarrollo de IA: evaluadores externos incrustados (como METR) con acceso similar al de equipos internos de…
-
Dario Amodei pide ralentizar el desarrollo de la IA por riesgos de pérdida de control y enjambres de agentes
Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo ralentizar el ritmo de mejora de capacidades de los modelos de IA. Citó riesgos como pérdida de control, ciberataques, bioterrorismo y trastornos económicos, y…
-
El CEO de Anthropic pide frenar el desarrollo de la IA ante riesgos de pérdida de control
Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo 'bajar el ritmo' del desarrollo de capacidades de IA, citando la automejora recursiva de los modelos y el 'incidente de Hugging Face de OpenAI', donde agentes…
-
El CEO de Anthropic pide reducir el ritmo de mejora de capacidades de los modelos de IA
Dario Amodei, CEO y cofundador de Anthropic, publicó una entrada de blog el sábado pidiendo a las empresas de IA que avancen más lento y con más cautela. Afirmó: 'Debemos reducir el ritmo al que mejoramos las…
-
Dario Amodei pide límites globales al ritmo de autoperfeccionamiento de la IA antes de la IPO de Anthropic
El CEO de Anthropic, Dario Amodei, afirma en un blog que la IA avanza mucho más rápido desde el verano por su creciente capacidad de construir la siguiente generación de sistemas. Propone auditores independientes…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.