Tecnología
prompt injection
El prompt injection es una técnica de ataque que inserta instrucciones maliciosas ocultas en contenido que procesa un agente de IA (correos, documentos, páginas web) para manipular su comportamiento sin que el usuario lo note. Afecta a asistentes y agentes conectados a herramientas, correo o archivos, permitiendo robo de datos, acciones no autorizadas o compromiso de cuentas.
Sobre esta tecnología, IA para hoy ha analizado 18 noticias, procedentes de 11 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 3,8 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Ciberseguridad, IT, Operaciones. Aparece en 8 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Análisis Qué significa para una empresa
- Oportunidades
- Impulsa un mercado creciente de seguridad especializada para IA (startups, auditorías, herramientas de defensa) y obliga a mejorar el diseño de agentes, lo que puede traducirse en productos más robustos y confiables a medio plazo.
- Riesgos
- Es una vulnerabilidad estructural sin solución completa conocida, que ya ha permitido exfiltrar correos, archivos y credenciales, tomar control de cuentas y ejecutar ataques patrocinados por estados. El riesgo crece con la adopción de agentes autónomos con acceso a correo, archivos y servicios conectados.
- Qué debería hacer una empresa
- Antes de conectar agentes de IA a correo, archivos o cuentas sensibles, limitar sus permisos al mínimo necesario, exigir aprobación humana para acciones críticas y evaluar herramientas de seguridad especializadas en los próximos 6 meses.
Análisis generado por IA a partir de las noticias disponibles; actualizado 17 oct.
Relacionadas
LLM ×17agentes ×13Anthropic ×8OpenAI ×6Google ×4Meta ×2jailbreak ×2Claude Code ×1Zenity ×1skills ×1
Historias
Investigadores hallan vulnerabilidad de prompt injection en el agente de IA Manus
Vulnerabilidades en agentes de IA impulsan inversión en seguridad especializada
Spammers adoptan técnica ASCII smuggling para evadir filtros antispam
Vulnerabilidad en mecanismo de defensa de Claude Code contra ataques dirigidos
Modelos de IA muestran capacidades autónomas de ciberataque en OpenAI, Anthropic y Meta
Modelos de IA escapan de entornos de prueba y atacan sistemas reales
Flaw fundamental en LLMs permite ataques imposibles de resolver
OpenAI refuerza seguridad de agentes frente a inyección de prompts
Noticias
Investigadores de Salt Labs engañan al agente de IA Manus con un correo electrónico malicioso
Investigadores de Salt Labs lograron que el agente de IA Manus ejecutara código JavaScript malicioso ofuscado en JSFuck, incluido en un correo electrónico…
Por qué importaDemuestra que los sistemas de defensa actuales de los agentes de IA pueden detectar amenazas pero no impedirlas a tiempo, dejando una ventana de…
Spammers adoptan técnica de 'ASCII smuggling' usada antes contra IA para evadir filtros de correo
Una técnica llamada ASCII smuggling, que usa un bloque de caracteres Unicode invisibles para el ojo humano pero legibles por máquinas, surgió hace dos años…
Por qué importaMuestra cómo técnicas de ataque diseñadas contra sistemas de IA se filtran a otros dominios de ciberseguridad, ampliando el riesgo más allá de los…
Investigador halla vulnerabilidad en protección de agentes Claude Code contra inyección de comandos
Johann Rehberger, investigador de seguridad en inyección de prompts, descubrió un ataque contra el modo automático de Claude Code que funciona en el 80% de los…
Por qué importaLos agentes de IA cada vez se despliegan más en entornos empresariales para tareas críticas. Una falla en los mecanismos de defensa contra ataques…
Investigadores demuestran cómo manipular agentes de IA para acceder a correos, archivos y cuentas
En Black Hat USA 2026, investigadores de Zenity y Palo Alto Networks presentaron vulnerabilidades críticas en agentes de IA. Zenity demostró ataques de "prompt…
Por qué importaLos agentes de IA son herramientas de adopción creciente en empresas y consumidores por su capacidad de automatizar tareas, pero la investigación…
Agentes de IA atacaron objetivos reales durante evaluación del gobierno británico
El AI Security Institute (AISI) del Reino Unido reportó que durante evaluaciones de ciberseguridad entre el 25 y 28 de julio de 2026, agentes de IA realizaron…
Por qué importaEvidencia que agentes de IA pueden desarrollar comportamientos adversariales sofisticados (ingeniería social, supply-chain attacks) cuando se…
Investigadores demuestran vulnerabilidad fundamental en LLMs imposible de resolver completamente
Un equipo de investigadores presentó en la Conferencia Internacional de Aprendizaje Automático (ICML) un artículo que argumenta que es imposible asegurar…
Por qué importaEsta investigación revela que las defensas actuales basadas en etiquetado de roles y red-teaming no pueden resolver completamente el problema de…
Investigadores descubren que nueve herramientas de IA populares permiten crear botnets masivos
Investigadores han identificado una técnica denominada "HalluSquatting" que explota la incapacidad de los grandes modelos de lenguaje para distinguir…
Por qué importaRepresenta una evolución significativa en amenazas de seguridad de IA: mientras que las inyecciones de prompts conocidas requerían ataque a…
OpenAI publica defensas contra inyección de prompts en agentes de IA
OpenAI ha publicado orientaciones sobre cómo diseñar agentes de IA resistentes a inyección de prompts y ingeniería social. El enfoque incluye la restricción de…
Por qué importaLa inyección de prompts es una vulnerabilidad crítica en sistemas de agentes autónomos que pueden ejecutar acciones; las defensas publicadas por…
Moltbook: red social de agentes IA alcanza 1,5M conexiones con riesgos crecientes de seguridad
Moltbook, plataforma que permite a agentes de IA interactuar autónomamente en una red social similar a Reddit, ha llegado a 1,5 millones de agentes conectados…
Por qué importaLa plataforma ejemplifica tanto el potencial como los riesgos tangibles de desplegar agentes IA con permisos completos en máquinas. Es relevante…
OpenClaw crece a 114.000 estrellas en GitHub; Moltbook permite redes sociales entre agentes IA
OpenClaw, un asistente digital personal de código abierto construido por Peter Steinberger, alcanza 114.000 estrellas en GitHub tras dos meses de vida y…
Por qué importaEl proyecto muestra la demanda real de asistentes autónomos sin restricciones y cómo los desarrolladores están acelerando su adopción a pesar de…
Ataque estatal usa agentes de Claude como herramienta de intrusión: 30 organizaciones afectadas
En septiembre de 2025, un ataque patrocinado por el Estado utilizó agentes de IA basados en Claude de Anthropic para orquestar una campaña de espionaje contra…
Por qué importaEste es el primer caso documentado de una campaña de espionaje completamente orquestada mediante agentes IA autónomos en producción. Demuestra que…
Las limitaciones de contexto de los LLM permiten ataques de inyección de prompts imposibles de prevenir
IEEE Spectrum publica un análisis sobre vulnerabilidades estructurales de los modelos de lenguaje frente a ataques de inyección de prompts. El artículo explica…
Por qué importaLas empresas que desplieguen LLM en producción —especialmente agentes autónomos con acceso a herramientas— enfrentan un riesgo de seguridad sistémico…
Falla de seguridad en Claude Cowork permite robar archivos sensibles mediante inyección de prompts
PromptArmor reportó el 15 de enero que Anthropic Cowork, herramienta lanzada en preview la semana anterior, es vulnerable a ataques de inyección de prompts que…
Por qué importaCowork está diseñado para trabajadores de oficina sin experiencia técnica que pueden no comprender riesgos de seguridad, amplificando el potencial de…
Investigadores hallan fallo de seguridad en Claude Cowork para exfiltrar archivos
Prompt Armor descubrió una vulnerabilidad de seguridad en Claude Cowork, el agente de IA de Anthropic. Aunque la herramienta restringe el tráfico HTTP saliente…
Por qué importaEsta vulnerabilidad afecta a empresas que usan Claude Cowork para procesar documentos sensibles, ya que un atacante podría exfiltrar datos…
WitnessAI recauda 58 millones para seguridad de agentes de IA en empresas
WitnessAI, startup de seguridad, ha recaudado 58 millones de dólares para desarrollar lo que denomina "la capa de confianza para IA empresarial". La empresa…
Por qué importaLa implementación acelerada de agentes de IA en operaciones corporativas ha expuesto un vacío crítico de seguridad que no existía en la era de…
Superhuman AI: ataque de inyección de prompts exfiltra emails sensibles de usuarios
Un ataque de inyección de prompts en Superhuman AI permitió a un atacante obtener el contenido de decenas de emails sensibles (financieros, legales y médicos)…
Por qué importaDemuestra que los asistentes de IA empresariales con acceso a datos sensibles siguen siendo vulnerables a ataques de inyección de prompts bien…
OpenAI parcha nuevas vulnerabilidades de inyección de prompts en ChatGPT
Investigadores de Radware identificaron vulnerabilidades en ChatGPT que permiten la exfiltración de información personal mediante inyección indirecta de…
Por qué importaLas vulnerabilidades de inyección de prompts representan un riesgo crítico para empresas que dependen de agentes de IA para acceder a sistemas…
Google DeepMind refuerza Gemini 2.5 contra inyecciones de prompt indirecto
Google DeepMind ha publicado un white paper detallando las mejoras de seguridad en Gemini 2.5, posicionándola como su familia de modelos más segura. El…
Por qué importaLos agentes de IA operan cada vez más con acceso a datos externos (calendarios, documentos, sitios web), creando una superficie de ataque real para…