Satya Nadella pide un «botón de emergencia» para frenar modelos de IA mientras trabajan
Hecho Qué ha ocurrido
El CEO de Microsoft, Satya Nadella, pidió públicamente en un comunicado publicado en X la implantación urgente de un sistema de supervisión estricto y un «botón de emergencia» para detener modelos avanzados de IA mientras ejecutan tareas. Sostiene que la industria debe aplicar a los modelos los mismos límites de privilegios que a empleados con acceso a información sensible, con controles independientes para auditar cada acción. Afirma además que la responsabilidad no puede subcontratarse a los proveedores del modelo.
Resumen generado mediante IA a partir de ABC Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La petición procede de un directivo de una de las mayores tecnológicas del mundo y apunta a que las empresas que despliegan agentes de IA deberán gestionarlos como un riesgo interno, con controles propios y no solo confiando en las garantías del proveedor.
- Quién se ve afectado
- Empresas que despliegan agentes de IA con acceso a información confidencial, y sus equipos de seguridad y cumplimiento.
- Qué puede cambiar
- Si la propuesta se traslada a la práctica, los despliegues de agentes podrían incorporar límites de privilegios, registros de auditoría y mecanismos para pausar o desconectar el modelo durante una tarea.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si Microsoft u otros proveedores incorporan a sus productos controles de parada y auditoría independientes, y si la idea aparece en normativa o en estándares del sector.
Enviar esta noticia por correo
Fuente original: ABC Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗agentes de IALLM Microsoft agentes de IAcontrol humanoMicrosoftSatya Nadellaseguridad de la IA
Tu opinión
0 comentarios
Relacionadas
Meta permite que su agente de IA Muse genere contenido sexual explícito para adultos
WIRED probó el agente de IA Muse de Meta, lanzado hace tres semanas, y comprobó que genera texto sexual gráfico y explícito a partir de indicaciones básicas…
Por qué importaUna política de contenido permisiva en un agente que puede acceder al correo y a la cuenta bancaria del usuario amplía el riesgo de privacidad y de…
OpenAI y Anthropic piden leyes vinculantes para la IA en el Parlamento británico
En una audiencia del Parlamento británico, representantes de OpenAI y Anthropic afirmaron que los compromisos voluntarios no bastan y defendieron nuevas leyes…
Por qué importaMuestra una división pública entre los grandes laboratorios sobre si la seguridad de la IA debe regularse por ley, lo que puede anticipar el marco…
406 científicos, con Hinton y Bengio entre ellos, piden aislar de internet los modelos de IA
Una carta abierta firmada por 406 científicos, entre ellos Geoffrey Hinton, Yoshua Bengio y Stuart Russell, pide que las empresas desconecten de internet sus…
Por qué importaSi se adopta la propuesta, las empresas que den a sus agentes acceso a internet o a sistemas propios tendrían que revisar sus controles de…
Más de 400 científicos de 35 países piden un organismo internacional para supervisar la IA
Más de 400 científicos de 35 países, entre ellos Geoffrey Hinton y Yoshua Bengio, firmaron una carta abierta alertando de la falta de control en el desarrollo…
Por qué importaLa carta refuerza el debate sobre quién responde por los fallos de seguridad de los agentes de IA con acceso a internet. Las empresas que despliegan…