Brad Smith pide frenos de emergencia y evaluaciones independientes para los sistemas de IA avanzada
Hecho Qué ha ocurrido
Brad Smith, presidente de Microsoft, advirtió en una entrevista con la BBC sobre la falta de controles de seguridad en los sistemas de IA más avanzados y pidió normas internacionales más estrictas. Propone evaluaciones independientes antes de su llegada al mercado, la obligación de informar de incidentes de seguridad y frenos de emergencia (kill switches) para detener una IA que actúe de forma imprevista. Compara la situación con lavadoras o productos alimentarios, que deben superar controles antes de venderse.
Resumen generado mediante IA a partir de Business Insider España. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Un proveedor principal de IA reclama supervisión externa, lo que anticipa requisitos futuros sobre cómo se auditan y se detienen los agentes que las empresas despliegan.
- Quién se ve afectado
- Empresas que desarrollan o despliegan sistemas de IA, especialmente agentes que actúan sin instrucción humana en cada paso.
- Qué puede cambiar
- Si estas propuestas se convierten en normas, las empresas tendrían que documentar incidentes, someter sus sistemas a evaluación independiente y prever mecanismos para detenerlos. Hoy son posiciones sin efecto normativo.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si gobiernos u organismos internacionales recogen estas propuestas, cómo responde la industria y qué papel se asigna a los evaluadores independientes y a la AESIA en España.
Enviar esta noticia por correo
Fuente original: Business Insider España. La referencia es siempre el artículo original.
Ver fuente original ↗agentes de IAIA avanzada Microsoft AESIAAI ActBrad SmithKill SwitchMicrosoft
Tu opinión
0 comentarios
Relacionadas
Un segundo tribunal alemán considera a Google responsable de las respuestas generadas por su IA de búsqueda
Un tribunal regional de Aquisgrán dictó en septiembre de 2026 una orden que prohíbe a Google difundir ciertas afirmaciones falsas generadas por su función AI…
Por qué importaSi la línea jurídica se consolida, Google y otras plataformas de búsqueda con IA podrían responder directamente por lo que sus sistemas afirman sobre…
ISACA pone el control de los agentes de IA en el centro de la confianza digital
ISACA celebró en Múnich su Conferencia Europea 2026, con más de 40 sesiones y cerca de 500 asistentes de más de 50 países. Los ponentes debatieron la…
Por qué importaCuando los agentes de IA ejecutan acciones sin intervención humana directa, la responsabilidad y la trazabilidad se convierten en requisitos de…
Meta asegura haber resuelto un fallo en sus Ray-Ban Meta que grababa conversaciones sin la orden de activación
Un usuario de Reddit denunció en dos hilos que sus Ray-Ban Meta guardaban conversaciones sin la orden "Hey, Meta", con la opción "Responder sin Hey Meta"…
Por qué importaEstas gafas prometen escuchar solo cuando se las invoca, y un fallo de este tipo afecta a la confianza en el dispositivo y a la privacidad de las…
Meta corrige un fallo que hacía que sus Ray-Ban Meta grabaran conversaciones sin activar la IA
Meta ha reconocido y corregido un fallo en sus gafas Ray-Ban Meta que, según usuarios que lo denunciaron en Reddit, guardaba conversaciones sin que se activara…
Por qué importaMuestra el riesgo de privacidad de los dispositivos con micrófono y cámara siempre disponibles, que las empresas que los usen deben evaluar como…