Startups de chips IA resurgen en inferencia: Nvidia acapara prefill mientras crece la especialización
Hecho Qué ha ocurrido
La industria de IA está migrando del entrenamiento de modelos hacia la inferencia, creando una oportunidad para startups de semiconductores que Nvidia domina en entrenamiento. Nvidia adquirió Groq en diciembre por 20.000 millones de dólares e implementó una estrategia de inferencia desagregada: GPUs para prefill (cómputo pesado) y LPUs de Groq para decode (operaciones restringidas por ancho de banda). AWS, Intel y otros siguen modelos similares, usando chips especializados de startups como Cerebras y SambaNova. Lumai presentó aceleradores ópticos híbridos que alcanzarían exaOPS de rendimiento en un presupuesto de 10kW para 2029, mientras Tenstorrent cuestionó esta fragmentación con su plataforma Galaxy Blackhole de propósito general.
Resumen generado mediante IA a partir de The Register AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
La inferencia es un mercado más diverso y fragmentado que el entrenamiento, permitiendo que proveedores especializados no-Nvidia crezcan; pero la consolidación de Nvidia en el stack de prefill-decode y la complejidad de orquestar múltiples chips implica que los ganadores serán pocos y dependientes de alianzas con hiperclouds. Para directivos, señala que la inversión en IA no termina con el modelo, sino en cómo se despliega eficientemente en producción.
- Quién se ve afectado
- Proveedores de infraestructura IA (startups de chips), hiperclouds (AWS, Google, Microsoft, Intel), operadores de modelos grandes y neoclouds que evalúen aceleradores especializados.
- Qué puede cambiar
- El stack de inferencia pasará de ser monolítico a modular, permitiendo seleccionar chips según la tarea (decode vs. prefill, batch vs. online). Esto reduce la dependencia de GPUs genéricas pero aumenta la complejidad operacional y el riesgo de compatibilidad futura si las arquitecturas de modelos divergen.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Disponibilidad de aceleradores ópticos de Lumai en evaluación con hiperclouds (2027-2029); adopción real del stack desagregado de AWS, Intel y Tenstorrent en datacenters; resultados financieros de startups como Cerebras y SambaNova tras alianzas; y si Tenstorrent logra tracción con su enfoque de propósito general frente a la especialización de Nvidia.
Recomendación Qué debería hacer una empresa
Empresas con cargas de inferencia intensiva deben evaluar en los próximos 12-18 meses si un stack desagregado (prefill+decode especializado) mejora su costo por inferencia frente a GPUs estándar; esto requiere pruebas con proveedores como AWS y contacto con startups como Cerebras y SambaNova para entender roadmap de compatibilidad con modelos futuros.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Register AI. La referencia es siempre el artículo original.
Ver fuente original ↗LPUGPUinferenciaaceleradores ópticosRISC-V NvidiaGroqAWSCerebras SystemsIntel chips IA desagregación inferencia Nvidia startups hardware
Relacionadas
Nvidia ha invertido en más de 100 startups de IA desde 2023, incluyendo OpenAI, Anthropic y xAI
Nvidia ha participado en 67 operaciones de capital riesgo en 2025, superando las 54 de 2024, y su fondo corporativo NVentures ha cerrado 30 transacciones…
Por qué importaNvidia está usando su dominio en semiconductores para capturar influencia en el ecosistema de IA empresarial, no solo como proveedor de chips sino…
General Compute asegura $400 millones con chips de inferencia como colateral
General Compute, startup de nube de inferencia de IA, ha obtenido un préstamo de $400 millones de Upper90, un fondo de inversión tecnológica, usando chips de…
Por qué importaSeñala un cambio estratégico en la inversión en infraestructura de IA: el mercado se aleja de los costosos chips de entrenamiento hacia soluciones de…
Nvidia expande su ventaja más allá de las GPU con sistemas de orquestación de datos
Nvidia ha presentado su nueva arquitectura Vera Rubin, que integra junto a la GPU Rubin componentes especializados como la CPU Vera, aceleradores de inferencia…
Por qué importaA medida que los centros de datos escalan a escala de gigavatios, la orquestación eficiente de datos y memoria se convierte en un reto crítico…
Kog optimiza inferencia en GPUs estándar con software para acelerar flujos IA
La startup francesa Kog desarrolla un motor de inferencia (KIE) basado en optimización de software para acelerar el procesamiento en GPUs convencionales de…
Por qué importaLa velocidad de inferencia es un cuello de botella crítico en costes y experiencia de usuario para empresas que usan IA en flujos de trabajo…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.