Ir al contenido
IA para hoy
Regulación y ética Regulación 4/5 · Varias fuentes

OpenAI propone usar la perplejidad como métrica común para establecer límites al desarrollo de la IA

Fotografía de archivo que ilustra: OpenAI propone usar la perplejidad como métrica común para establecer límites al desarrollo de la IA
Foto: Pexels · Licencia Pixabay · Pixabay

Hecho Qué ha ocurrido

El científico jefe de OpenAI, Jakub Pachocki, publicó un blog en el que propone la perplejidad como métrica compartida para medir el progreso de la IA y fijar límites comunes. Según el texto, la perplejidad ha seguido siendo informativa mientras los benchmarks de capacidades downstream han quedado obsoletos. Pachocki sostiene que, con pérdidas por debajo de 0,8, han aparecido capacidades transformadoras en ciberseguridad y matemáticas. Propone que las empresas se comprometan a no superar un umbral hasta que se alcance un hito concreto en la comprensión y supervisión del comportamiento de la IA.

Resumen generado mediante IA a partir de TechCrunch AI (original en inglés). Naturaleza de la información: declaración de parte interesada.

Análisis Por qué importa

Si la industria adopta una métrica común para medir el progreso, los límites de desarrollo dejarían de ser una declaración abstracta y podrían verificarse. Es relevante para directivos que siguen el debate sobre gobernanza y riesgo de los modelos avanzados.

Quién se ve afectado
Laboratorios de IA, reguladores y empresas que dependen de modelos de frontera.
Qué puede cambiar
Si se acuerda una métrica común, podría establecerse un umbral compartido que condicione el lanzamiento de modelos más potentes. Hoy la propuesta no tiene efectos prácticos ni compromisos firmados.

Análisis generado a partir de la información disponible; no procede de la fuente.

Predicción Qué observar a continuación

Si otras empresas como Anthropic o Google DeepMind respaldan la perplejidad como estándar, y si surgen propuestas regulatorias que la incorporen. Conviene vigilar también las críticas técnicas sobre si esta métrica refleja capacidades reales.

Compartir WhatsApp LinkedIn X Bluesky Telegram
Enviar esta noticia por correo

Se envía esta noticia con su análisis. La dirección se usa solo para ese envío y no se guarda.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: hacer el envío que pides. Base: nuestro interés legítimo. Lo envía Resend; la comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.

Fuente original: TechCrunch AI. La referencia es siempre el artículo original.

Ver fuente original ↗

modelos de lenguaje OpenAIAnthropic Jakub Pachocki límites al desarrollo OpenAI perplejidad seguridad de la IA

Fuentes de esta historia

Esta noticia forma parte de una historia cubierta por 2 publicaciones. La fiabilidad sube cuando varias fuentes independientes la confirman.

  1. OpenAI
    · varias fuentes · artículo original ↗
  2. TechCrunch AI estás leyendo esta
    · varias fuentes · artículo original ↗

Ver la historia completa con su línea temporal →

Relacionadas

Modelos y avances

OpenAI propone la perplejidad como métrica común y límites compartidos para el desarrollo de IA

El científico jefe de OpenAI, Jakub Pachocki, propone usar la perplejidad (o la pérdida de entropía cruzada) como métrica común para comparar modelos entre…

Por qué importaSi la industria adopta una métrica común con límites acordados, las decisiones sobre qué modelos se lanzan y cuándo podrían depender de criterios que…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 OpenAI

Anthropic propone tres métricas para medir el ritmo de desarrollo de la IA de frontera

Anthropic ha publicado una propuesta con tres mediciones destinadas a comprender mejor el ritmo de desarrollo de la IA de frontera. La compañía justifica la…

Por qué importaContar con métricas estandarizadas ayudaría a empresas, reguladores e investigadores a evaluar objetivamente la velocidad de avance de la IA, en…

Impacto bajo Fiabilidad declaración interesada Europa Press Portaltic
Regulación y ética

OpenAI propone estándares comunes de seguridad para modelos de IA de frontera

OpenAI publicó un artículo titulado 'Desarrollar los estándares para la próxima fase de la IA', firmado en el contexto de declaraciones de Sam Altman y Jakub…

Por qué importaMarca un giro discursivo en los grandes laboratorios de IA, que pasan de la carrera competitiva a proponer marcos de gobernanza compartidos, lo que…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 Xataka
Regulación y ética

OpenAI propone que EEUU lidere la creación de normas técnicas internacionales para la IA

OpenAI publicó una propuesta para que Estados Unidos impulse estándares técnicos internacionales sobre IA, incluyendo métricas de capacidades, protocolos de…

Por qué importaUn marco regulatorio internacional coordinado por EEUU podría definir cómo se supervisan globalmente los sistemas de IA avanzada, afectando la…

Impacto bajo Fiabilidad varias fuentes Infobae Tecno

Tu opinión

0 comentarios

Escribe un comentario

Sin registro. La primera vez te pediremos confirmar el correo y el comentario pasará por moderación; después se publican al momento si cumplen las normas y firmas con el mismo nombre.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: publicar y moderar tu comentario y evitar abusos. Base: tu consentimiento y, contra los abusos, nuestro interés legítimo. Se publica tu nombre, no tu correo. El texto pasa por un filtro con IA de Anthropic, en Estados Unidos, sin tu nombre ni tu correo, y se guarda un resumen de tu IP 90 días. La comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.