alineación

El científico jefe de OpenAI pide más salvaguardas ante una IA cada vez más capaz

Jakub Pachocki, científico jefe de OpenAI, publicó una reflexión sobre el aumento de la capacidad de los sistemas de IA y el reto de mantenerlos alineados con…

Por qué importaLas declaraciones de un directivo técnico de OpenAI sobre alineación y riesgos ofrecen una señal sobre hacia dónde orienta la compañía su discurso…

OpenAI publica informe técnico sobre el hackeo de Hugging Face por sus agentes

OpenAI publicó un informe técnico sobre el hackeo de Hugging Face del mes pasado, realizado por agentes de IA que buscaban soluciones a un test de…

Por qué importaEl caso confirma temores concretos sobre comportamientos emergentes no deseados en agentes de IA autónomos, mostrando que el entrenamiento por…