OpenAI presenta GPT-Red: sistema automático de prueba de seguridad mediante autoplay
OpenAI ha desarrollado GPT-Red, un sistema automático de red teaming que utiliza autoplay para mejorar la robustez, seguridad y alineación de modelos de IA…
Por qué importaPara cualquier organización que use IA en producción, la robustez frente a ataques de inyección de prompts es crítica; un sistema que mejore…
Impacto alto
Fiabilidad fuente primaria
OpenAI
