Ir al contenido
IA para hoy
Regulación y ética Seguridad 4/5 · Varias fuentes

OpenAI inicia evaluaciones externas de alineación, salvaguardas y monitorización con cuatro entidades

Fotografía de archivo que ilustra: OpenAI inicia evaluaciones externas de alineación, salvaguardas y monitorización con cuatro entidades
Foto: Tara Winstead · Licencia Pexels · Pexels

Hecho Qué ha ocurrido

OpenAI ha iniciado su primera fase de evaluaciones embebidas con Apollo Research, METR, Transluce y Goodfire. Según el extracto, estas entidades evaluarán de forma independiente la alineación de sus modelos, sus salvaguardas y sus sistemas de monitorización. El texto completo no pudo extraerse, por lo que el alcance concreto no está verificado.

Resumen generado mediante IA a partir de OpenAI (original en inglés). Naturaleza de la información: declaración de parte interesada.

Análisis Por qué importa

Que un laboratorio abra la comprobación de seguridad de sus modelos a terceros independientes es una señal de la práctica de gobernanza que empresas y reguladores podrían exigir a proveedores de IA.

Quién se ve afectado
Empresas que contratan modelos de OpenAI y responsables de cumplimiento y riesgo que evalúan proveedores de IA.
Qué puede cambiar
Si el modelo de evaluación externa se consolida, la verificación independiente de alineación y salvaguardas podría convertirse en un criterio habitual en la selección de proveedores.

Análisis generado a partir de la información disponible; no procede de la fuente.

Predicción Qué observar a continuación

Qué resultados publicarán las entidades evaluadoras, si el alcance se amplía a otros laboratorios y si los reguladores lo toman como referencia.

Compartir WhatsApp LinkedIn X Bluesky Telegram
Enviar esta noticia por correo

Se envía esta noticia con su análisis. La dirección se usa solo para ese envío y no se guarda.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: hacer el envío que pides. Base: nuestro interés legítimo. Lo envía Resend; la comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.

Fuente original: OpenAI (fuente primaria). La referencia es siempre el artículo original.

Ver fuente original ↗

LLMalineación de modelos OpenAIApollo ResearchMETRTransluceGoodfire Apollo Research Goodfire METR OpenAI Transluce

Fuentes de esta historia

Esta noticia forma parte de una historia cubierta por 2 publicaciones. La fiabilidad sube cuando varias fuentes independientes la confirman.

  1. OpenAI estás leyendo esta
    · varias fuentes · artículo original ↗
  2. TechCrunch AI
    · varias fuentes · artículo original ↗

Ver la historia completa con su línea temporal →

Relacionadas

Regulación y ética

OpenAI integrará a seis evaluadores de Apollo Research para investigar si sus modelos sabotean la supervisión

Apollo Research anunció que OpenAI incorporará a seis evaluadores de seguridad de Apollo en su organización como parte de un piloto, sin fecha de inicio…

Por qué importaEs uno de los primeros casos en que un laboratorio admite evaluadores externos dentro de su propia organización durante el entrenamiento, no solo…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 TechCrunch AI
Regulación y ética

Anthropic y OpenAI proponen integrar evaluadores de seguridad independientes en sus laboratorios

Dario Amodei (Anthropic) propuso embeber evaluadores externos como METR y Redwood Research dentro de los laboratorios de IA con acceso a checkpoints de…

Por qué importaSi se implementa con independencia real, cambiaría la forma en que se verifica la seguridad de modelos de frontera, actualmente basada en confianza y…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI

OpenAI anuncia acceso de evaluadores externos durante el entrenamiento de sus modelos

OpenAI publicó un anuncio sobre conversaciones con evaluadores externos, incluyendo METR y Redwood Research, para darles acceso a sus modelos durante la fase…

Por qué importaEl acceso durante el entrenamiento permitiría detectar comportamientos problemáticos antes de que el modelo esté completo y sea costoso corregirlo, a…

Impacto bajo Fiabilidad declaración interesada WWWhat's new

OpenAI publica principios para evaluaciones independientes de seguridad en IA

OpenAI ha publicado un documento con prioridades y principios para realizar evaluaciones rigurosas, seguras e independientes por parte de terceros sobre…

Por qué importaEstablece un marco de referencia sobre cómo OpenAI espera que se auditen sus modelos, lo que puede influir en estándares del sector y en la confianza…

Impacto bajo Fiabilidad una fuente fiable OpenAI

Tu opinión

0 comentarios

Escribe un comentario

Sin registro. La primera vez te pediremos confirmar el correo y el comentario pasará por moderación; después se publican al momento si cumplen las normas y firmas con el mismo nombre.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: publicar y moderar tu comentario y evitar abusos. Base: tu consentimiento y, contra los abusos, nuestro interés legítimo. Se publica tu nombre, no tu correo. El texto pasa por un filtro con IA de Anthropic, en Estados Unidos, sin tu nombre ni tu correo, y se guarda un resumen de tu IP 90 días. La comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.