OpenAI propone usar la perplejidad como métrica común para establecer límites al desarrollo de la IA

Hecho Qué ha ocurrido
El científico jefe de OpenAI, Jakub Pachocki, publicó un blog en el que propone la perplejidad como métrica compartida para medir el progreso de la IA y fijar límites comunes. Según el texto, la perplejidad ha seguido siendo informativa mientras los benchmarks de capacidades downstream han quedado obsoletos. Pachocki sostiene que, con pérdidas por debajo de 0,8, han aparecido capacidades transformadoras en ciberseguridad y matemáticas. Propone que las empresas se comprometan a no superar un umbral hasta que se alcance un hito concreto en la comprensión y supervisión del comportamiento de la IA.
Resumen generado mediante IA a partir de TechCrunch AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si la industria adopta una métrica común para medir el progreso, los límites de desarrollo dejarían de ser una declaración abstracta y podrían verificarse. Es relevante para directivos que siguen el debate sobre gobernanza y riesgo de los modelos avanzados.
- Quién se ve afectado
- Laboratorios de IA, reguladores y empresas que dependen de modelos de frontera.
- Qué puede cambiar
- Si se acuerda una métrica común, podría establecerse un umbral compartido que condicione el lanzamiento de modelos más potentes. Hoy la propuesta no tiene efectos prácticos ni compromisos firmados.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si otras empresas como Anthropic o Google DeepMind respaldan la perplejidad como estándar, y si surgen propuestas regulatorias que la incorporen. Conviene vigilar también las críticas técnicas sobre si esta métrica refleja capacidades reales.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: TechCrunch AI. La referencia es siempre el artículo original.
Ver fuente original ↗modelos de lenguaje OpenAIAnthropic Jakub Pachocki límites al desarrollo OpenAI perplejidad seguridad de la IA
Forma parte de la historia OpenAI propone la perplejidad como métrica común para limitar el desarrollo de IA (2 noticias, estado: en evolución).
Relacionadas
OpenAI propone la perplejidad como métrica común y límites compartidos para el desarrollo de IA
El científico jefe de OpenAI, Jakub Pachocki, propone usar la perplejidad (o la pérdida de entropía cruzada) como métrica común para comparar modelos entre…
Por qué importaSi la industria adopta una métrica común con límites acordados, las decisiones sobre qué modelos se lanzan y cuándo podrían depender de criterios que…
Anthropic propone tres métricas para medir el ritmo de desarrollo de la IA de frontera
Anthropic ha publicado una propuesta con tres mediciones destinadas a comprender mejor el ritmo de desarrollo de la IA de frontera. La compañía justifica la…
Por qué importaContar con métricas estandarizadas ayudaría a empresas, reguladores e investigadores a evaluar objetivamente la velocidad de avance de la IA, en…
OpenAI propone estándares comunes de seguridad para modelos de IA de frontera
OpenAI publicó un artículo titulado 'Desarrollar los estándares para la próxima fase de la IA', firmado en el contexto de declaraciones de Sam Altman y Jakub…
Por qué importaMarca un giro discursivo en los grandes laboratorios de IA, que pasan de la carrera competitiva a proponer marcos de gobernanza compartidos, lo que…
OpenAI propone que EEUU lidere la creación de normas técnicas internacionales para la IA
OpenAI publicó una propuesta para que Estados Unidos impulse estándares técnicos internacionales sobre IA, incluyendo métricas de capacidades, protocolos de…
Por qué importaUn marco regulatorio internacional coordinado por EEUU podría definir cómo se supervisan globalmente los sistemas de IA avanzada, afectando la…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



