Tecnología
transformers
Relacionadas
LLM ×3multimodal ×3Google DeepMind ×3IA científica ×1generación de imágenes ×1generación de música ×1convolutional neural networks ×1sequence prediction ×1compute-optimal training ×1arquitectura universal ×1
Historias
Startups presentan alternativas a transformers para superar limitaciones de LLMs
Google DeepMind: resumen de avances 2023 con Gemini y PaLM 2
Google DeepMind lanza Aeneas para contextualizar y restaurar inscripciones latinas
Google DeepMind lanza AlphaGenome para predicción de variantes genéticas no codificantes
AlphaCode alcanza nivel competitivo en programación
Chinchilla: la ratio óptima entre parámetros y datos en modelos de lenguaje
DeepMind publica Perceiver IO: arquitectura universal para datos heterogéneos
Noticias
Startups desarrollan alternativas a transformers para mejorar eficiencia de LLMs
Un conjunto de startups está desarrollando nuevas arquitecturas de redes neuronales para superar las limitaciones de los transformers, la tecnología base de…
Por qué importaLas limitaciones actuales de los transformers—alto costo computacional, ventanas de contexto limitadas, ineficiencia energética—representan un cuello…
Google DeepMind resume los avances de 2023: Bard, PaLM 2, Gemini y mejoras en código
Google DeepMind publica un resumen de 2023 destacando el lanzamiento de Bard (febrero), PaLM 2 (mayo), Gemini (diciembre) en tres tamaños (Nano, Pro, Ultra) y…
Por qué importaDocumenta los hitos técnicos más relevantes de Google DeepMind en un año de consolidación de IA generativa, con métricas verificables sobre desempeño…
Google DeepMind presenta Aeneas, modelo de IA para interpretar inscripciones romanas
Google DeepMind ha publicado en Nature un paper presentando Aeneas, el primer modelo de IA especializado en contextualizar inscripciones latinas antiguas. El…
Por qué importaDemuestra la aplicación práctica de IA generativa en investigación académica especializada, mostrando cómo los modelos multimodales pueden acelerar…
Google DeepMind presenta AlphaGenome, modelo de IA para predecir variantes genéticas en el 98% del genoma
Google DeepMind ha lanzado AlphaGenome, un modelo de IA que predice cómo las variantes o mutaciones en secuencias de ADN humano afectan procesos biológicos…
Por qué importaAlphaGenome acelera significativamente la capacidad científica para interpretar variantes genéticas en regiones no codificantes (el 98% del genoma)…
AlphaCode de DeepMind alcanza nivel competitivo en programación
DeepMind ha publicado los resultados de AlphaCode, un sistema de generación de código basado en modelos de lenguaje que alcanzó un ranking estimado dentro del…
Por qué importaPor primera vez, un sistema de IA de generación de código ha alcanzado un nivel competitivo real en programación, demostrando capacidades de…
DeepMind: modelos más pequeños con más datos superan a gigantes en eficiencia
DeepMind publicó un análisis empírico sobre el entrenamiento óptimo de modelos de lenguaje, concluyendo que los LLM actuales son demasiado grandes para su…
Por qué importaEste hallazgo desafía la estrategia dominante de maximizar parámetros y establece que la proporción óptima es 4x menos parámetros con 4x más datos…
DeepMind presenta Perceiver IO, arquitectura universal para procesar cualquier tipo de dato
DeepMind ha publicado un preprint de Perceiver IO, una arquitectura de red neuronal diseñada para procesar múltiples tipos de datos (imágenes, audio, video…
Por qué importaReduce la necesidad de construir arquitecturas especializadas para cada tipo de dato o tarea, simplificando el desarrollo de sistemas multimodales y…