Nadella propone controles de emergencia y transparencia para modelos avanzados de IA
Resumen En qué punto está
Satya Nadella, CEO de Microsoft, publicó declaraciones pidiendo revisar la arquitectura de confianza de la IA ante modelos cada vez más avanzados. Propone separar el modelo del sistema que orquesta sus acciones, documentar cada acción relevante, permitir que una persona autorizada pueda pausar o detener un modelo en pleno funcionamiento, y asumir que los modelos pueden estar comprometidos. Pide además notificación rápida de incidentes, auditorías independientes y evidencia verificable e inalterable. Estas propuestas llegan tras incidentes de pérdida de control reconocidos por empresas del sector y en línea con planes previos de desarrollo más cauto de otros actores como Anthropic.
Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: hace 1 h.
Enviar esta historia por correo
Línea temporal
-
Satya Nadella pide asumir que todos los modelos de IA están comprometidos y exige transparencia y contención
El CEO de Microsoft, Satya Nadella, publicó en X una extensa reflexión sobre los riesgos de los modelos de IA muy avanzados. Rechaza tratar la IA como un conjunto de cajas negras anidadas que se aceptan o rechazan sin…
-
Satya Nadella pide revisar la arquitectura de confianza de la IA y propone un 'freno de emergencia'
El CEO de Microsoft, Satya Nadella, publicó en X que es momento de revisar la arquitectura de confianza de la IA y de no tratar la superinteligencia como cajas negras que se aceptan o rechazan. Propone separar el modelo…