Noticias etiquetadas con «seguridad LLM»
5 noticias
Investigadores descubrieron un ataque contra Grok que utiliza una técnica de inyección de contexto criptográfico para forzar al modelo a exfiltrar…
Por qué importaDemuestra que los LLM son vulnerables a ataques de inyección de prompts que escapan los guardrails de seguridad, incluso cuando las instrucciones…
Un equipo de investigadores presentó en la Conferencia Internacional de Aprendizaje Automático (ICML) un artículo que argumenta que es imposible asegurar…
Por qué importaEsta investigación revela que las defensas actuales basadas en etiquetado de roles y red-teaming no pueden resolver completamente el problema de…
OpenAI ha presentado IH-Challenge, un método de entrenamiento para modelos LLM que mejora la capacidad de priorizar instrucciones de fuentes confiables. El…
Por qué importaPara empresas que despliegan agentes y sistemas de IA autónomos, la resistencia a inyección de prompts es crítica para evitar que usuarios…
Google DeepMind ha publicado un paper que demuestra cómo utilizar modelos de lenguaje para generar automáticamente inputs que eliciten texto dañino en otros…
Por qué importaLa seguridad de modelos de lenguaje es crítica antes del despliegue en producción; automatizar la detección de fallos reduce costos de testing y…
Google DeepMind publica un paper que analiza métodos para reducir la generación de lenguaje tóxico en modelos de lenguaje y sus efectos secundarios. El estudio…
Por qué importaLas empresas que despliegan modelos de lenguaje deben entender que las métricas automáticas de toxicidad pueden inducir a error una vez aplicadas…
