METR advierte de que la IA mejora más rápido que la capacidad para evaluar si los nuevos sistemas son seguros

Hecho Qué ha ocurrido
La organización de investigación METR advierte de que los modelos de IA mejoran rápidamente en tareas de investigación en IA y son cada vez más difíciles de medir. Según METR, los datos públicos actuales no bastan para descartar una aceleración drástica de la investigación en IA en los próximos años. En tareas de programación y computación con retroalimentación directa, los modelos superan a profesionales experimentados la mayoría de las veces, aunque aún no a grandes grupos de expertos de primer nivel. La duración de tarea que manejan se duplica cada 3,6 meses, y una extrapolación ingenua sitúa una tasa de éxito del 50 % en tareas de 200 horas hacia julio de 2027.
Resumen generado mediante IA a partir de The Decoder (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Si las pruebas habituales no reflejan bien las capacidades reales, las empresas y los reguladores pueden tomar decisiones sobre riesgos y adopción con una imagen incompleta. Además, METR señala que los tests fáciles de ejecutar pueden sobrestimar el rendimiento en uso real.
- Quién se ve afectado
- Desarrolladores de modelos, equipos de evaluación y seguridad, reguladores y empresas que despliegan IA en tareas técnicas.
- Qué puede cambiar
- Podría hacer necesario complementar las evaluaciones estándar con pruebas más realistas y con juicio humano en tareas abiertas, lo que encarece la validación de sistemas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Publicación de nuevas evaluaciones independientes de METR y de institutos de seguridad, y si los laboratorios adoptan métodos de prueba más exigentes antes de lanzar nuevos modelos.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Decoder. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentes METR evaluación de modelos investigación en IA METR seguridad de la IA
Relacionadas
Un estudio de METR estima que Anthropic mejora sus modelos casi el doble de rápido por el uso de IA en su propio desarrollo
La organización METR publicó un análisis, con acceso a datos internos de Anthropic, que estima que la compañía mejora las capacidades de sus modelos en tareas…
Por qué importaSugiere que la automejora de los modelos puede acelerar el ritmo de progreso más de lo que se preveía, lo que afecta a cómo las empresas planifican…
METR estima que la mejora de Anthropic se ha duplicado por la IA que usa en su propia investigación
La organización sin ánimo de lucro METR auditó durante once semanas datos internos de investigación de Anthropic. Concluye que el ritmo de mejora de sus…
Por qué importaLa auto-aceleración de la investigación en IA es un indicador de riesgo que la política de escalado de Anthropic señala como motivo de alerta, y el…
Un informe de METR señala que Anthropic acelera el desarrollo de sus modelos al usar IA para investigar IA
Según un nuevo informe de la organización de investigación en seguridad de IA METR, publicado un jueves tras una investigación de 11 semanas dentro de…
Por qué importaSi la IA acelera la propia investigación en IA, el ritmo de mejora de los modelos puede ser cada vez más difícil de anticipar para planificar…
METR estima que los modelos de Anthropic avanzan al doble de velocidad, sobre todo por el uso de IA en su desarrollo
La organización METR, tras revisar datos internos de Anthropic entre agosto y octubre de 2026, estima que sus modelos mejoran en tareas bien definidas a un…
Por qué importaSi la aceleración se confirma, el ritmo de mejora de los modelos líderes podría ser mucho más rápido de lo que planifican las empresas que dependen…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



