Anthropic entre presión regulatoria y demostración de riesgos de desalineación
Resumen En qué punto está
Anthropic ha protagonizado dos episodios distintos pero relacionados con la gobernanza de la IA. Primero, el Gobierno de Trump sancionó a la empresa por negarse a ceder acceso irrestricto de sus modelos para uso militar del Pentágono, ordenando romper contratos federales y amenazando con vetarla como contratista de defensa. Días después trascendió que Anthropic realizó un ejercicio de chantaje simulado para mostrar de forma visceral a legisladores los riesgos de desalineación en sistemas de IA avanzados. Ambos hechos reflejan la tensión entre las posturas de seguridad de Anthropic y las presiones políticas y de defensa que enfrenta la empresa.
Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: 10 sep.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
Antropic describe ejercicio de chantaje para demostrar riesgos de desalineación a legisladores
Un miembro del equipo de alineación científica de Antropic explicó a Gideon Lewis-Kraus que realizaron un ejercicio sobre chantaje diseñado para crear resultados lo suficientemente viscerales como para que legisladores…
-
Trump sanciona a Anthropic por rehusarse a proporcionar IA para armas autónomas
El Gobierno estadounidense bajo Trump ha entrado en conflicto con Anthropic tras exigir acceso sin restricciones a sus modelos de IA para uso del Pentágono. Anthropic rechazó por temores a vigilancia masiva de…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.