Google Research propone un marco de "sueño" que ayuda a los LLM a retener conocimiento sin olvidar lo anterior

Hecho Qué ha ocurrido
Google Research presenta un marco de aprendizaje continuo con una fase offline de "sueño" en la que el modelo consolida en sus parámetros la información de contexto a corto plazo y genera ejemplos sintéticos para mejorar su razonamiento. Según el artículo, el método mantiene el rendimiento en traducción continua de lenguas poco comunes, escala hasta 10 millones de tokens en BABILong y obtiene 79,2% en AIME 24, superando a SFT y GRPO en las pruebas descritas.
Resumen generado mediante IA a partir de Google Research (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si el enfoque se confirma en condiciones reales, los modelos desplegados podrían incorporar información nueva sin reentrenamientos completos ni olvidar capacidades previas. Para las empresas, esto apuntaría a asistentes que se adaptan a su documentación interna con menos coste.
- Quién se ve afectado
- Desarrolladores de modelos y equipos que despliegan LLM con datos propios o que cambian de forma frecuente.
- Qué puede cambiar
- Podría reducirse la dependencia de ventanas de contexto muy grandes y de reentrenamientos costosos para actualizar conocimiento. Hoy los resultados son de un artículo de investigación, no de un producto disponible.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si otros laboratorios reproducen los resultados con modelos de producción, si el método se integra en productos y cuál es su coste de cómputo durante la fase de sueño.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Google Research (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗LLMaprendizaje continuoMixture-of-Experts Google Research aprendizaje continuo Google Research LLM olvido catastrófico
Relacionadas
Google Research enseña a LLMs a razonar como modelos bayesianos
Google Research publica un estudio en el que entrena modelos de lenguaje para razonar de manera bayesiana óptima, imitando las predicciones de un asistente…
Por qué importaMejora la capacidad de los LLMs para actualizar estimaciones probabilísticas sobre preferencias de usuarios mediante múltiples interacciones, lo que…
Google presenta LearnLM, modelo de IA educativo con enfoque socrático para aulas
Conchita Díaz, directiva de Google, presenta LearnLM, un modelo de IA específicamente entrenado con pedagogos para actuar como tutor socrático en las aulas. El…
Por qué importaRepresenta una apuesta clara de un gigante tecnológico por redefinir el papel de la IA en educación, enfatizando la complementariedad con docentes en…
Microsoft Research presenta EvoLib, marco de aprendizaje continuo para LLMs en inferencia
Microsoft Research publicó un paper y código sobre EvoLib, un framework que convierte experiencias pasadas de un LLM en habilidades reutilizables e ideas…
Por qué importaPropone una vía para que sistemas de IA basados en APIs (modelos de caja negra) mejoren su desempeño tras el despliegue sin reentrenar, lo que podría…
Google Research explica por qué el razonamiento mejora el recuerdo factual en LLMs
Investigadores de Google Research publicaron un estudio, a presentarse en COLM 2026, que analiza por qué activar el razonamiento (chain-of-thought) mejora la…
Por qué importaEntender estos mecanismos ayuda a diseñar mejor los prompts y arquitecturas de razonamiento para mejorar la precisión factual de los LLMs en…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



