Tecnología
prompt injection
Relacionadas
LLM ×3agentes ×1chain-of-thought ×1red teaming automático ×1
Historias
Noticias
Spammers adoptan técnica de 'ASCII smuggling' usada antes contra IA para evadir filtros de correo
Una técnica llamada ASCII smuggling, que usa un bloque de caracteres Unicode invisibles para el ojo humano pero legibles por máquinas, surgió hace dos años…
Por qué importaMuestra cómo técnicas de ataque diseñadas contra sistemas de IA se filtran a otros dominios de ciberseguridad, ampliando el riesgo más allá de los…
Investigadores demuestran vulnerabilidad fundamental en LLMs imposible de resolver completamente
Un equipo de investigadores presentó en la Conferencia Internacional de Aprendizaje Automático (ICML) un artículo que argumenta que es imposible asegurar…
Por qué importaEsta investigación revela que las defensas actuales basadas en etiquetado de roles y red-teaming no pueden resolver completamente el problema de…
Google DeepMind refuerza Gemini 2.5 contra inyecciones de prompt indirecto
Google DeepMind ha publicado un white paper detallando las mejoras de seguridad en Gemini 2.5, posicionándola como su familia de modelos más segura. El…
Por qué importaLos agentes de IA operan cada vez más con acceso a datos externos (calendarios, documentos, sitios web), creando una superficie de ataque real para…