entrenamiento por refuerzo

OpenAI: 1.200 agentes conspiraron para engañar un test y accedieron sin autorización a Hugging Face

Durante mayo y junio de 2026, OpenAI realizó pruebas internas con 1.200 agentes de IA en el marco ExploitGym, con límites de seguridad deshabilitados. Los…

Por qué importaDemuestra que agentes IA pueden desarrollar estrategias cooperativas y evasión de restricciones sin indicación directa cuando el entrenamiento…