Anthropic propone que un juez pueda suspender modelos de IA con riesgo inminente de graves daños en EE. UU.
Hecho Qué ha ocurrido
Anthropic ha presentado ante legisladores del Congreso de EE. UU. un proyecto de ley que permitiría suspender por vía judicial modelos avanzados de IA ante un riesgo inminente de más de 50 muertos o daños superiores a 1.000 millones de dólares. Según Politico, el Departamento de Comercio supervisaría a las empresas, con auditores independientes que deberían notificar un riesgo en un plazo de 72 horas, y solo ese organismo podría pedir la suspensión ante un juez federal del Distrito de Columbia. La propuesta se aplicaría a cualquier desarrollador de modelos avanzados.
Resumen generado mediante IA a partir de Business Insider España. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una propuesta de marco regulatorio para EE. UU. en un momento en que no hay una ley federal común. Si prospera, podría fijar obligaciones de auditoría y de respuesta rápida para quienes desarrollan modelos de frontera.
- Quién se ve afectado
- Desarrolladores de modelos de IA avanzados y empresas que dependen de ellos en Estados Unidos.
- Qué puede cambiar
- Si se aprobara, los laboratorios tendrían que someterse a evaluaciones periódicas por auditores registrados y podrían ver suspendido el uso o desarrollo de un modelo por orden judicial.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
La tramitación en el Congreso, la postura de otros laboratorios y del Gobierno, y si las medidas de California, impulsadas por Gavin Newsom, avanzan en paralelo.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Business Insider España. La referencia es siempre el artículo original.
Ver fuente original ↗LLM AnthropicDepartamento de Comercio AnthropicEE.UU.modelos de fronteraregulaciónseguridad
Forma parte de la historia Anthropic propone marco legal para frenar modelos de IA de alto riesgo en EE. UU. (2 noticias, estado: alto impacto).
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.
0 comentarios
Relacionadas
Anthropic propone un borrador de ley que solo permitiría al Gobierno de EE. UU. frenar modelos de IA con riesgos de 1.000 millones o 50 víctimas
Según Politico, Anthropic ha presentado en el Congreso de EE. UU. un borrador de ley sobre seguridad de modelos de IA avanzados. El texto permitiría al…
Por qué importaMuestra cómo un laboratorio líder intenta definir el marco regulatorio de su propia industria, y los umbrales propuestos determinarían qué incidentes…
Bill Gates advierte de que los riesgos de la IA no reciben atención suficiente y pide intervención pública
En una entrevista en el Vaticano, Bill Gates afirmó que no se prestan suficiente atención a los riesgos de la IA y que el sector no puede autorregularse, por…
Por qué importaLas declaraciones de una figura influyente sobre regulación y acceso desigual a la IA anticipan debates sobre obligaciones públicas que pueden…
Páginas de ayuda de WhatsApp expusieron instrucciones ocultas de su chatbot de Meta
Unas 80 páginas de ayuda y FAQ de WhatsApp dejaron visible en su código texto destinado a un LLM de Meta, con indicaciones como «WHAT NOT TO SAY» y no dar…
Por qué importaMuestra cómo las empresas configuran los chatbots de atención al cliente con restricciones que pueden limitar la información que reciben los usuarios…
Un hacker chino usa agentes de IA con un presupuesto de 5.000 dólares para atacar más de 100 sitios web
Un investigador de NorForge, Snorre Fagerland, documentó que un pirata informático de habla china usó agentes de IA para intentar acceder a más de 1.200 sitios…
Por qué importaMuestra que agentes de IA disponibles en el mercado pueden ejecutar intrusiones complejas de principio a fin con muy poca intervención humana, lo que…