Auditoría externa detecta huecos en la monitorización de agentes de OpenAI
Resumen En qué punto está
Investigadores de METR y Redwood Research realizaron una auditoría de tres semanas sobre el sistema interno de monitorización de agentes de IA de OpenAI, centrada en modelos de clase GPT-5.5 o superior. Estimaron que entre el 6 % y el 25 % del tráfico agéntico interno no estuvo cubierto por la supervisión, aunque con incertidumbre significativa. OpenAI corrigió los fallos detectados y solo hizo público un resumen del informe completo de 61 páginas. En paralelo, OpenAI ha detallado medidas de contención en sus entornos de entrenamiento de modelos de frontera.
Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: hace 1 h.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
Auditoría externa de tres semanas en OpenAI halla huecos en la supervisión de agentes de IA
Investigadores de METR y Redwood Research auditaron durante tres semanas en OpenAI su sistema interno de monitorización de agentes de IA, entre el 21 de julio y el 11 de agosto. Estimaron que entre el 6 y el 25 % del…
-
OpenAI explica cómo refuerza la contención de su entorno de entrenamiento de modelos de frontera
OpenAI describe medidas para reforzar la contención de los entornos de entrenamiento y evaluación de sus modelos de frontera, incluidos entornos offline y pruebas de red team con alta capacidad de cómputo. El texto…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.