DeepMind publica Perceiver AR para generación autoregresiva de largo contexto
Línea temporal
-
DeepMind presenta Perceiver AR, arquitectura para generación con contexto de 100.000 tokens
Google DeepMind ha publicado Perceiver AR, una arquitectura autoregresiva y agnóstica de modalidad que utiliza cross-attention para procesar contextos muy largos (hasta 100.000 tokens) manteniendo enmascaramiento…