Anthropic propone un borrador de ley que solo permitiría al Gobierno de EE. UU. frenar modelos de IA con riesgos de 1.000 millones o 50 víctimas
Hecho Qué ha ocurrido
Según Politico, Anthropic ha presentado en el Congreso de EE. UU. un borrador de ley sobre seguridad de modelos de IA avanzados. El texto permitiría al Gobierno bloquear un modelo solo ante un riesgo previsible e inminente de más de 1.000 millones de dólares en daños o de muerte o lesiones graves a más de 50 personas, y lo concentraría en el Departamento de Comercio, que tendría que acudir a un juez federal. Anthropic afirma que el borrador refleja su Marco de IA Avanzada, aún sin respaldo formal a ningún proyecto concreto.
Resumen generado mediante IA a partir de Xataka. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Muestra cómo un laboratorio líder intenta definir el marco regulatorio de su propia industria, y los umbrales propuestos determinarían qué incidentes pueden llevar a detener un modelo.
- Quién se ve afectado
- Laboratorios de IA de modelos frontera, empresas que despliegan esos modelos y responsables de cumplimiento en EE. UU.
- Qué puede cambiar
- Si el texto avanzara, la posibilidad de detener un modelo quedaría limitada a riesgos de gran escala y a una decisión judicial, con obligaciones de transparencia e notificación de incidentes para los laboratorios.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Qué proyecto de ley acaba respaldando Anthropic, si los legisladores aceptan los umbrales de 1.000 millones de dólares y 50 víctimas, y las críticas del sector a la concentración de poder en Comercio.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Xataka. La referencia es siempre el artículo original.
Ver fuente original ↗modelos frontera AnthropicPoliticoDepartamento de Comercio AnthropicCongresoEstados Unidosregulación IAseguridad
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.
0 comentarios
Relacionadas
Un hacker usa un ejército de agentes de IA para entrar en más de 100 sitios web, según Norforge
Según la firma de seguridad en IA Norforge, un atacante accedió a más de 100 sitios web mediante agentes de IA que operaban en gran medida de forma autónoma…
Por qué importaMuestra que los agentes de IA pueden automatizar intrusiones a gran escala contra empresas conocidas. Las organizaciones deberían revisar su…
Los demócratas podrían usar la regulación de la IA como ventaja electoral si ganan el Congreso
Las encuestas prevén que los demócratas puedan recuperar al menos una cámara del Congreso en las elecciones de medio mandato de noviembre. Según el artículo…
Por qué importaUn control demócrata de comisiones daría capacidad para citar a directivos de empresas de IA y marcar la agenda legislativa, lo que aumenta el…
Agentes de IA que navegan y compran: qué es la inyección de instrucciones y cómo limitar el riesgo
Una guía en español explica que los agentes de IA que navegan y compran pueden ser manipulados mediante inyección de instrucciones, ataque ocultado en webs…
Por qué importaUn agente con acceso a sesiones bancarias, correo o tarjetas guardadas puede ejecutar acciones dañinas si procesa contenido malicioso, lo que exige…
Apple endurece las normas de la App Store contra las apps que generan desnudos con IA
Apple ha actualizado sus directrices de revisión de la App Store para prohibir explícitamente las apps que generan imágenes de desnudez no consensuadas con IA…
Por qué importaFija un criterio de moderación más estricto para las apps de IA generativa que se distribuyen en la App Store y puede afectar a cómo se diseñan y…