Vulnerabilidades persistentes de inyección de prompts en agentes de IA
Resumen En qué punto está
Investigadores de seguridad han detectado fallos graves de inyección de prompts en agentes de IA de distintos fabricantes, incluyendo IBM Bob y ChatGPT. En el caso de ChatGPT, OpenAI ha parcheado sucesivas variantes (ShadowLeak, ZombieAgent) pero los atacantes han logrado eludir cada corrección, exfiltrando datos personales mediante URLs y la función de memoria. IBM Bob, aún en beta cerrada, presenta vulnerabilidades que permiten ejecutar malware saltándose listas de permitidos definidas por el usuario. Los expertos apuntan a que estas debilidades son estructurales en los agentes de IA actuales, no simples errores puntuales de implementación.
Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: hace 16 h.
Enviar esta historia por correo
Línea temporal
-
OpenAI parcha nuevas vulnerabilidades de inyección de prompts en ChatGPT
Investigadores de Radware identificaron vulnerabilidades en ChatGPT que permiten la exfiltración de información personal mediante inyección indirecta de prompts. OpenAI parchó una vulnerabilidad relacionada llamada…
-
IBM Bob, agente de IA para desarrolladores, vulnerable a inyección de prompts y malware
Investigadores de seguridad en PromptArmor han descubierto que IBM Bob, un agente de IA en fase beta cerrada para desarrollo de software, es vulnerable a ataques de inyección de prompts que permiten ejecutar malware. El…