Hassabis advierte de posibles incidentes graves con agentes de IA en uno o dos años
Hecho Qué ha ocurrido
El presidente de Google DeepMind, Demis Hassabis, advirtió en Dublín que los agentes de IA podrían causar 'incidentes graves' en uno o dos años si empresas y gobiernos no adoptan medidas de seguridad. Afirmó que los casos recientes de pérdida de control de agentes autónomos son 'señales de alerta', aunque los incidentes hasta ahora no han sido graves porque estos sistemas tienen capacidades limitadas.
Resumen generado mediante IA a partir de El Mundo Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La advertencia procede de un responsable de uno de los laboratorios líderes y sugiere que la gestión de riesgos de los agentes debería entrar en la planificación de cualquier empresa que los despliegue.
- Quién se ve afectado
- Empresas que usan o planean desplegar agentes autónomos, y sus responsables de seguridad y cumplimiento.
- Qué puede cambiar
- Si la tendencia se confirma, las organizaciones podrían necesitar añadir supervisión humana, control de permisos y auditoría a los agentes antes de ampliar su uso.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Nuevos casos de pérdida de control de agentes, las respuestas regulatorias en la UE y el Reino Unido, y los compromisos de seguridad de los grandes laboratorios.
Recomendación Qué debería hacer una empresa
Revisar en los próximos 6 meses qué agentes operan con acceso a sistemas críticos y definir controles de supervisión y registro de sus acciones.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: El Mundo Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗agentes de IA Google DeepMind agentes autónomosDemis HassabisDublínGoogle DeepMindseguridad de la IA
Tu opinión
0 comentarios
Relacionadas
Investigadores alertan de que OpenAI y Google dejan generar desnudos con IA
Investigadores en seguridad advierten de que se difunde sin control mucho contenido sexual explícito generado con IA. Un estudio coescrito por Google…
Por qué importaLas salvaguardas de los generadores de imagen más usados pueden fallar, lo que eleva el riesgo legal y reputacional para las empresas que integran…
Brad Smith pide normas globales de seguridad para la IA y un freno de emergencia
Brad Smith, presidente de Microsoft, pidió normas globales de seguridad para la IA en declaraciones al podcast Big Boss Interview de la BBC. Afirmó que una…
Por qué importaMuestra la división entre grandes empresas de IA sobre si la autorregulación basta, con Microsoft, accionista de OpenAI, en desacuerdo con la postura…
El FBI detiene a un ingeniero de OpenAI acusado de espiar reuniones de alta dirección con un micrófono oculto
El FBI ha detenido a Abdulrahman Alfozan, ingeniero saudí de 35 años que llevaba unos meses trabajando en OpenAI, acusado de intentar obtener información de…
Por qué importaMuestra que el espionaje industrial es un riesgo real para las empresas de IA, incluso dentro de sus propias oficinas. Obliga a revisar el control de…
Los modelos de IA de pesos abiertos se modifican en días para asistir a actividades terroristas, según un informe
Un informe de la ONG británica Tech Against Terrorism, con 134 modelos y más de 200 consultas, halla que la mayoría de modelos disponibles, cerrados y…
Por qué importaLos modelos abiertos pueden desplegarse localmente sin los filtros de los proveedores, lo que traslada a la empresa que los usa la responsabilidad…