Anthropic propone un proyecto de ley que permitiría bloquear modelos de IA con riesgo catastrófico
Hecho Qué ha ocurrido
Según Politico, Anthropic presenta un borrador de ley de seguridad en IA que permitiría bloquear la distribución de un modelo ante un riesgo inminente de más de 50 muertes o más de mil millones de dólares en daños materiales. Los evaluadores independientes, registrados en el Departamento de Comercio, deberían avisar en 72 horas y el departamento tendría que pedir a un juez de Washington que detenga el lanzamiento; ninguna agencia federal podría hacerlo por su cuenta. Anthropic confirmó el borrador y afirma que recoge su Advanced AI Framework.
Resumen generado mediante IA a partir de TechCrunch AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si prospera, definiría un modelo de control previo al lanzamiento de sistemas de IA en Estados Unidos, con umbrales parecidos a los de la ley SB 53 de California. Para las empresas que desarrollan o usan modelos avanzados, marca el terreno sobre el que se negociará la regulación.
- Quién se ve afectado
- Laboratorios de IA que desarrollan modelos avanzados y empresas que dependen de ellos.
- Qué puede cambiar
- Si la propuesta avanza, los lanzamientos de modelos potencialmente peligrosos podrían requerir evaluaciones externas y, en última instancia, una orden judicial para frenarse.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si el Congreso la considera seriamente, la reacción de otros grandes laboratorios y de la industria, y si se fija cómo se pagan los evaluadores para evitar conflictos de interés.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: TechCrunch AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLM AnthropicPoliticoCommerce DepartmentNvidia Anthropic Estados Unidos regulación SB 53 seguridad en IA
Relacionadas
Anthropic propone un borrador de ley que solo permitiría al Gobierno de EE. UU. frenar modelos de IA con riesgos de 1.000 millones o 50 víctimas
Según Politico, Anthropic ha presentado en el Congreso de EE. UU. un borrador de ley sobre seguridad de modelos de IA avanzados. El texto permitiría al…
Por qué importaMuestra cómo un laboratorio líder intenta definir el marco regulatorio de su propia industria, y los umbrales propuestos determinarían qué incidentes…
Anthropic propone que un juez pueda suspender modelos de IA con riesgo inminente de graves daños en EE. UU.
Anthropic ha presentado ante legisladores del Congreso de EE. UU. un proyecto de ley que permitiría suspender por vía judicial modelos avanzados de IA ante un…
Por qué importaEs una propuesta de marco regulatorio para EE. UU. en un momento en que no hay una ley federal común. Si prospera, podría fijar obligaciones de…
Senadores de EE.UU. negocian ley para dar al gobierno poder de bloquear lanzamientos de IA inseguros
Los senadores Thune, Cruz y Klobuchar negocian un borrador de ley que impondría un deber de cuidado a los desarrolladores de IA avanzada y daría al Ejecutivo…
Por qué importaEs la primera propuesta legislativa concreta en EE.UU. que otorgaría al gobierno poder de veto previo al lanzamiento de un modelo de IA, similar al…
EE.UU. propone ley para apagar modelos de IA en situaciones de emergencia
El Congreso estadounidense estudia la "AI Kill Switch Act", que otorgaría al Departamento de Seguridad Nacional autoridad para ordenar el cierre o…
Por qué importaRepresenta la primera regulación gubernamental seria de control de emergencia sobre modelos de IA de gran escala, estableciendo precedente para la…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.