Tecnología
red teaming automático
Sobre esta tecnología, IA para hoy ha analizado 2 noticias, procedentes de 2 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 5,0 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Ciberseguridad, IT, Desarrollo. Aparece en 2 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Relacionadas
Historias
Noticias
OpenAI presenta GPT-Red: sistema automático de prueba de seguridad mediante autoplay
OpenAI ha desarrollado GPT-Red, un sistema automático de red teaming que utiliza autoplay para mejorar la robustez, seguridad y alineación de modelos de IA…
Por qué importaPara cualquier organización que use IA en producción, la robustez frente a ataques de inyección de prompts es crítica; un sistema que mejore…
Google DeepMind refuerza Gemini 2.5 contra inyecciones de prompt indirecto
Google DeepMind ha publicado un white paper detallando las mejoras de seguridad en Gemini 2.5, posicionándola como su familia de modelos más segura. El…
Por qué importaLos agentes de IA operan cada vez más con acceso a datos externos (calendarios, documentos, sitios web), creando una superficie de ataque real para…