Startups desarrollan alternativas a transformers para mejorar eficiencia de LLMs

Hecho Qué ha ocurrido
Un conjunto de startups está desarrollando nuevas arquitecturas de redes neuronales para superar las limitaciones de los transformers, la tecnología base de los LLMs actuales. Empresas como Subquadratic (sparse attention), Manifest AI (power retention) y Liquid AI (liquid neural networks) presentan modelos que reducen significativamente el consumo computacional y permiten procesar contextos más amplios. Subquadratic afirma haber logrado sparse attention competitiva con LLMs mainstream; Liquid AI ha alcanzado 34 millones de descargas con modelos que funcionan en Raspberry Pi.
Resumen generado mediante IA a partir de MIT Technology Review (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Las limitaciones actuales de los transformers—alto costo computacional, ventanas de contexto limitadas, ineficiencia energética—representan un cuello de botella creciente para aplicaciones empresariales. Las alternativas emergentes podrían reducir drásticamente costes operacionales y permitir nuevos casos de uso (agentes de largo plazo, análisis de enormes volúmenes de datos). Este cambio arquitectónico es estratégico para cualquier empresa que dependa de LLMs en producción.
- Quién se ve afectado
- Proveedores cloud, empresas de software con LLMs integrados, fabricantes de hardware, startups de IA, y cualquier organización que ejecute modelos grandes; especialmente relevante para aplicaciones que requieren procesamiento de contexto largo o eficiencia energética.
- Qué puede cambiar
- Si estas arquitecturas alcanzan paridad de rendimiento con transformers, la economía de los LLMs cambiará: menores costes de inferencia, menor consumo energético, capacidad para ejecutar modelos sofisticados en dispositivos edge, y nuevas aplicaciones viables. Podría reducir la concentración actual en players de gran escala con capacidad de inversión masiva en infraestructura.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Necesario vigilar: (1) resultados independientes que validen las claims de rendimiento de Subquadratic y Manifest AI frente a benchmarks estándar; (2) adopción real en producción por empresas relevantes; (3) disponibilidad y términos de licencia de estos modelos; (4) reacción de OpenAI, Google y Meta ante estas alternativas; (5) evolución de costes energéticos de data centers en 2027-2028 como validación de la urgencia del problema.
Recomendación Qué debería hacer una empresa
Empresas con dependencia significativa en LLMs (chatbots, análisis de documentos, agentes) deberían evaluar en los próximos 6-12 meses el desempeño y compatibilidad de modelos basados en sparse attention y power retention respecto a sus pipelines actuales; también considerar Liquid AI si tienen restricciones de latencia o consumo energético.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: MIT Technology Review. La referencia es siempre el artículo original.
Ver fuente original ↗transformerssparse attentionpower retentionliquid neural networksLLMs arquitecturas neuronales eficiencia computacional Liquid AI Manifest AI Subquadratic
Relacionadas
Liquid AI lanza modelos de decisión multimodales d1 para dispositivos edge
Liquid AI publicó en Hugging Face los modelos abiertos d1-3B y d1-omni-600M, basados en sus Liquid Foundation Models, que responden con una única pasada hacia…
Por qué importaOfrece una alternativa eficiente a los LLM generativos para tareas de clasificación y decisión estructurada en dispositivos con recursos limitados…
Liquid AI lanza LFM2.5-VL-DSpark para acelerar modelos de visión y lenguaje en edge y GPU
Liquid AI presentó LFM2.5-VL-DSpark, un modelo 'draft' de decodificación especulativa de 280M de parámetros para acelerar su modelo de visión-lenguaje…
Por qué importaReducir la latencia de inferencia de modelos multimodales en dispositivos edge y GPU abarata y acelera el despliegue de aplicaciones de visión…
Liquid AI logra aceleración de hasta 3,2x en inferencia con LFM2.5-DSpark
Liquid AI ha publicado modelos de decodificación especulativa (DSpark) para su serie LFM2.5, logrando mejoras de velocidad de hasta 3,2x en inferencia. Los…
Por qué importaLa decodificación especulativa es técnicamente efectiva para reducir latencia en inferencia de LLM, factor crítico para aplicaciones en tiempo real…
Liquid AI lanza LFM2.5-2.6B, modelo de agentes eficiente para despliegue local
Liquid AI ha presentado LFM2.5-2.6B, un modelo de 2.6 mil millones de parámetros pre-entrenado en 34 billones de tokens con contexto extendido a 128K. El…
Por qué importaEste modelo representa un avance significativo en la accesibilidad de agentes IA locales: permite desplegar agentes capaces directamente en…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



