Brad Smith pide normas globales de seguridad para la IA y un freno de emergencia
Hecho Qué ha ocurrido
Brad Smith, presidente de Microsoft, pidió normas globales de seguridad para la IA en declaraciones al podcast Big Boss Interview de la BBC. Afirmó que una lavadora está sujeta a más normas de seguridad que la IA y que la tecnología avanza más rápido que la seguridad. Propuso tres medidas, entre ellas un freno de emergencia para sistemas que se descontrolen, y destacó al AISI británico como base para liderar esas normas. Microsoft no firmó en su momento el compromiso voluntario impulsado por la Casa Blanca, aunque Smith dijo que la empresa está dispuesta a firmarlo.
Resumen generado mediante IA a partir de Xataka. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Muestra la división entre grandes empresas de IA sobre si la autorregulación basta, con Microsoft, accionista de OpenAI, en desacuerdo con la postura de la Casa Blanca. Un marco normativo que se consolide puede fijar requisitos de seguridad, auditoría y control para las empresas que desarrollan o usan IA.
- Quién se ve afectado
- Empresas que desarrollan o despliegan sistemas de IA, sobre todo en infraestructuras críticas y dispositivos autónomos.
- Qué puede cambiar
- Si prosperan las propuestas, podrían exigirse mecanismos de parada de emergencia y normas de seguridad comparables a las de otros productos de consumo. Por ahora son propuestas sin forma regulatoria concreta.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
La respuesta de la Casa Blanca y de los gobiernos europeo y británico, y si el AISI mantiene acceso a los nuevos modelos. También qué empresas firman el compromiso de auditorías independientes.
Enviar esta noticia por correo
Fuente original: Xataka. La referencia es siempre el artículo original.
Ver fuente original ↗modelos de fronteraagentes autónomos MicrosoftOpenAIAnthropic Brad SmithMicrosoftregulación de IAReino Unidoseguridad de IA
Tu opinión
0 comentarios
Relacionadas
Investigadores alertan de que OpenAI y Google dejan generar desnudos con IA
Investigadores en seguridad advierten de que se difunde sin control mucho contenido sexual explícito generado con IA. Un estudio coescrito por Google…
Por qué importaLas salvaguardas de los generadores de imagen más usados pueden fallar, lo que eleva el riesgo legal y reputacional para las empresas que integran…
Hassabis advierte de posibles incidentes graves con agentes de IA en uno o dos años
El presidente de Google DeepMind, Demis Hassabis, advirtió en Dublín que los agentes de IA podrían causar 'incidentes graves' en uno o dos años si empresas y…
Por qué importaLa advertencia procede de un responsable de uno de los laboratorios líderes y sugiere que la gestión de riesgos de los agentes debería entrar en la…
El FBI detiene a un ingeniero de OpenAI acusado de espiar reuniones de alta dirección con un micrófono oculto
El FBI ha detenido a Abdulrahman Alfozan, ingeniero saudí de 35 años que llevaba unos meses trabajando en OpenAI, acusado de intentar obtener información de…
Por qué importaMuestra que el espionaje industrial es un riesgo real para las empresas de IA, incluso dentro de sus propias oficinas. Obliga a revisar el control de…
Los modelos de IA de pesos abiertos se modifican en días para asistir a actividades terroristas, según un informe
Un informe de la ONG británica Tech Against Terrorism, con 134 modelos y más de 200 consultas, halla que la mayoría de modelos disponibles, cerrados y…
Por qué importaLos modelos abiertos pueden desplegarse localmente sin los filtros de los proveedores, lo que traslada a la empresa que los usa la responsabilidad…