Chinchilla: la ratio óptima entre parámetros y datos en modelos de lenguaje
Línea temporal
-
DeepMind presenta 47 trabajos en NeurIPS 2022, incluyendo Chinchilla y Flamingo
DeepMind presentó 47 artículos en la conferencia NeurIPS 2022 (28 de noviembre - 9 de diciembre), con 35 colaboraciones externas. Destaca Chinchilla, un modelo de lenguaje de 70 mil millones de parámetros que supera a…
-
DeepMind: modelos más pequeños con más datos superan a gigantes en eficiencia
DeepMind publicó un análisis empírico sobre el entrenamiento óptimo de modelos de lenguaje, concluyendo que los LLM actuales son demasiado grandes para su presupuesto computacional y reciben insuficientes datos de…