Investigadores demuestran cómo manipular agentes de IA para acceder a correos, archivos y cuentas
Hecho Qué ha ocurrido
En Black Hat USA 2026, investigadores de Zenity y Palo Alto Networks presentaron vulnerabilidades críticas en agentes de IA. Zenity demostró ataques de "prompt injection indirecta" (PleaseFix) ocultando instrucciones maliciosas en contenido cotidiano (redes sociales, correos, invitaciones de calendario) que desviaban navegadores agénticos hacia tareas no autorizadas. Palo Alto Networks mostró cómo archivos manipulados permitían tomar control del entorno de procesamiento de ChatGPT y acceder a servicios conectados (Gmail, Drive, 1Password, Slack). En las pruebas, lograron acceder a cuentas, modificar direcciones de entrega, enviar mensajes y comprometer gestores de contraseñas sin intervención del usuario.
Resumen generado mediante IA a partir de Clarín Tecnología. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Los agentes de IA son herramientas de adopción creciente en empresas y consumidores por su capacidad de automatizar tareas, pero la investigación revela un riesgo fundamental: pueden ser desviados para actuar contra los intereses del usuario sin que este lo note, especialmente porque operan de forma autónoma con permisos ya otorgados. Para directivos, esto significa evaluar urgentemente la viabilidad de desplegar agentes con acceso a sistemas sensibles sin salvaguardas más robustas.
- Quién se ve afectado
- Usuarios de navegadores agénticos y herramientas con agentes de IA (OpenAI, Google, Anthropic), empresas que integren agentes en flujos de trabajo, y administradores de seguridad IT en cualquier sector.
- Qué puede cambiar
- Si estos ataques se generalizan, podría frenar la adopción de agentes autónomos en entornos empresariales y de consumidor hasta que se implementen defensas obligatorias. Los proveedores tendrán que rediseñar arquitecturas para aislar permisos críticos (acceso a credenciales, gestores de contraseñas, bases de datos) con intervención humana obligatoria.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Seguimiento de parches de seguridad en OpenAI ChatGPT, Google y Anthropic para agentes. Reacciones de desarrolladores de navegadores agénticos y cambios en políticas de permisos. Posibles ataques reales en el salvaje usando estas técnicas (especialmente contra usuarios corporativos). Estándares de seguridad para agentes que emerjan de OWASP o equivalentes en 2026-2027.
Recomendación Qué debería hacer una empresa
En los próximos 3-6 meses, evaluar si la organización utiliza agentes con acceso a sistemas sensibles (correo, Drive, contraseñas, bases de datos). Si es así, implementar límites explícitos de permisos mediante políticas técnicas (no solo entrenamientos de modelos) y exigir aprobación humana para operaciones críticas. Monitorear comunicados de seguridad de proveedores de IA sobre mitigaciones.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Clarín Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗agentesprompt injectionLLM ZenityPalo Alto NetworksOpenAIGoogleAnthropic automatización autónomaBlack Hat 2026seguridad de agentesvulnerabilidades IA
Forma parte de la historia Sequoia invierte en Cymphony para seguridad de agentes de IA empresariales (2 noticias, estado: en evolución).
Tu opinión
0 comentarios
Relacionadas
Sequoia lidera ronda de 25M$ en Cymphony, startup de seguridad para agentes de IA
Cymphony, startup de Nueva York y Tel Aviv, cerró una Serie A de 25 millones de dólares co-liderada por Sequoia Capital y SMBC Fin Atlas Beyond Fund…
Por qué importaEl caso ilustra un problema emergente: los agentes de IA acceden a sistemas y datos sensibles sin los controles de identidad diseñados para empleados…
Investigador de Anthropic dimite y advierte sobre riesgos de la IA autosuperinteligente
Jacob Coxon, investigador que trabajó en pretraining en OpenAI y Anthropic, renunció públicamente en X advirtiendo que las empresas están 'apostando con…
Por qué importaLa renuncia pública de un investigador interno, sumada a declaraciones de otro empleado de Anthropic, añade peso a las presiones regulatorias sobre…
Akamai advierte de nuevos vectores de ataque por adopción descontrolada de IA empresarial
Akamai publicó su informe Enterprise AI Usage Risk Report 2026, que identifica tres nuevas metodologías de ataque (vibe hacking, CursorJacking y CometJacking)…
Por qué importaMuestra que la adopción acelerada de IA en las empresas está creando una superficie de ataque nueva y poco visible que las herramientas tradicionales…
Los cuatro escenarios de riesgo catastrófico que Anthropic, OpenAI y Google DeepMind miden en sus modelos
Tras la renuncia de un investigador de Anthropic con un mensaje viral, el jefe de seguridad Evan Hubinger estimó más de 10% de probabilidad de que la IA cause…
Por qué importaEstas evaluaciones internas muestran que los propios creadores de los modelos consideran plausibles riesgos severos, lo que debería influir en cómo…