Ir al contenido
IA para hoy
En evolución 2 noticias · 2 fuentesdel 13 nov al hace 8 h

OpenAI abre sus modelos a evaluadores externos de seguridad

Resumen En qué punto está

OpenAI ha iniciado una fase de evaluaciones externas embebidas sobre alineación, salvaguardas y monitorización de sus modelos, con la participación de Apollo Research, METR, Transluce y Goodfire. Apollo Research precisó que incorporará a seis de sus evaluadores dentro de la propia organización de OpenAI, en un piloto sin fecha de inicio confirmada, para comprobar si los modelos intentan eludir controles de seguridad. OpenAI se reserva el derecho a retener cierta información por motivos técnicos, de seguridad o de propiedad intelectual. El alcance exacto de las evaluaciones y sus resultados no están aún verificados públicamente.

Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: hace 8 h.

Compartir WhatsApp LinkedIn X Bluesky Telegram
Enviar esta historia por correo

Se envía el resumen de la historia, qué ha cambiado y su línea temporal. La dirección se usa solo para ese envío y no se guarda.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: hacer el envío que pides. Base: nuestro interés legítimo. Lo envía Resend; la comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.

Línea temporal

  1. TechCrunch AIFiabilidad varias fuentes

    OpenAI integrará a seis evaluadores de Apollo Research para investigar si sus modelos sabotean la supervisión

    Apollo Research anunció que OpenAI incorporará a seis evaluadores de seguridad de Apollo en su organización como parte de un piloto, sin fecha de inicio confirmada. El objetivo es comprobar si sus modelos intentan…

  2. OpenAIFiabilidad varias fuentes

    OpenAI inicia evaluaciones externas de alineación, salvaguardas y monitorización con cuatro entidades

    OpenAI ha iniciado su primera fase de evaluaciones embebidas con Apollo Research, METR, Transluce y Goodfire. Según el extracto, estas entidades evaluarán de forma independiente la alineación de sus modelos, sus…

Tu opinión

0 comentarios

Escribe un comentario

Sin registro. La primera vez te pediremos confirmar el correo y el comentario pasará por moderación; después se publican al momento si cumplen las normas y firmas con el mismo nombre.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: publicar y moderar tu comentario y evitar abusos. Base: tu consentimiento y, contra los abusos, nuestro interés legítimo. Se publica tu nombre, no tu correo. El texto pasa por un filtro con IA de Anthropic, en Estados Unidos, sin tu nombre ni tu correo, y se guarda un resumen de tu IP 90 días. La comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.