Ir al contenido
IA para hoy
Regulación y ética Regulación 2/5 · Declaración interesada

OpenAI abre sus sistemas de IA a cuatro auditores independientes que trabajarán en sus oficinas

Fotografía de archivo que ilustra: OpenAI abre sus sistemas de IA a cuatro auditores independientes que trabajarán en sus oficinas
Foto: Pexels · Licencia Pixabay · Pixabay

Hecho Qué ha ocurrido

OpenAI dará a cuatro organizaciones externas de auditoría acceso directo, en sus oficinas, a sistemas internos, modelos no publicados, código fuente, datos de entrenamiento y sistemas de monitorización. Las organizaciones son Apollo Research, METR, Transluce y Goodfire, y el programa cumple compromisos del "White House Accord on Super Intelligence". Un consejo de seguridad independiente supervisa el proceso, pero OpenAI puede censurar material confidencial y retrasar informes.

Resumen generado mediante IA a partir de The Decoder (original en inglés). Naturaleza de la información: declaración de parte interesada.

Análisis Por qué importa

Es un ejemplo concreto de cómo los proveedores de modelos podrían abrir sus sistemas a verificación externa, un punto que las empresas que dependen de estos modelos deberían seguir de cerca al evaluar riesgos y cumplimiento.

Quién se ve afectado
Empresas que usan modelos de OpenAI, equipos de cumplimiento y seguridad, y reguladores que siguen la auditoría de modelos de IA.
Qué puede cambiar
Si el modelo se consolida, la auditoría externa in situ podría convertirse en una referencia para la evaluación de seguridad de los proveedores de IA. Por ahora el alcance real de la independencia depende de lo que OpenAI decida publicar o retener.

Análisis generado a partir de la información disponible; no procede de la fuente.

Predicción Qué observar a continuación

Qué informes publican los auditores y cuánto material se censura o retrasa. También si otras empresas de IA replican el modelo y si se realiza el seguimiento previsto de ocho semanas a comienzos de 2027.

Compartir WhatsApp LinkedIn X Bluesky Telegram
Enviar esta noticia por correo

Se envía esta noticia con su análisis. La dirección se usa solo para ese envío y no se guarda.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: hacer el envío que pides. Base: nuestro interés legítimo. Lo envía Resend; la comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.

Fuente original: The Decoder. La referencia es siempre el artículo original.

Ver fuente original ↗

modelos de lenguajeaprendizaje por refuerzo OpenAIApollo ResearchMETRTransluceGoodfire Apollo Research auditoría de IA METR OpenAI seguridad

Relacionadas

OpenAI anuncia acceso de evaluadores externos durante el entrenamiento de sus modelos

OpenAI publicó un anuncio sobre conversaciones con evaluadores externos, incluyendo METR y Redwood Research, para darles acceso a sus modelos durante la fase…

Por qué importaEl acceso durante el entrenamiento permitiría detectar comportamientos problemáticos antes de que el modelo esté completo y sea costoso corregirlo, a…

Impacto bajo Fiabilidad declaración interesada WWWhat's new

OpenAI incorporará investigadores externos para detectar si sus modelos intentan evadir controles

OpenAI integrará investigadores de Apollo Research, Goodfire, METR y Transluce en pruebas piloto para evaluar la seguridad de sus modelos. Apollo examinará si…

Por qué importaMuestra que la supervisión externa de modelos avanzados empieza antes del lanzamiento, no solo al final del desarrollo. Para las empresas que usan…

Impacto bajo Fiabilidad declaración interesada Relevancia 8/10 Infobae Tecno
Regulación y ética

OpenAI inicia evaluaciones externas de alineación, salvaguardas y monitorización con cuatro entidades

OpenAI ha iniciado su primera fase de evaluaciones embebidas con Apollo Research, METR, Transluce y Goodfire. Según el extracto, estas entidades evaluarán de…

Por qué importaQue un laboratorio abra la comprobación de seguridad de sus modelos a terceros independientes es una señal de la práctica de gobernanza que empresas…

Impacto bajo Fiabilidad varias fuentes OpenAI
Regulación y ética

OpenAI integrará a seis evaluadores de Apollo Research para investigar si sus modelos sabotean la supervisión

Apollo Research anunció que OpenAI incorporará a seis evaluadores de seguridad de Apollo en su organización como parte de un piloto, sin fecha de inicio…

Por qué importaEs uno de los primeros casos en que un laboratorio admite evaluadores externos dentro de su propia organización durante el entrenamiento, no solo…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 TechCrunch AI

Tu opinión

0 comentarios

Escribe un comentario

Sin registro. La primera vez te pediremos confirmar el correo y el comentario pasará por moderación; después se publican al momento si cumplen las normas y firmas con el mismo nombre.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: publicar y moderar tu comentario y evitar abusos. Base: tu consentimiento y, contra los abusos, nuestro interés legítimo. Se publica tu nombre, no tu correo. El texto pasa por un filtro con IA de Anthropic, en Estados Unidos, sin tu nombre ni tu correo, y se guarda un resumen de tu IP 90 días. La comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.