Ir al contenido
IA para hoy

inferencia, página 2

Noticias etiquetadas con «inferencia»

53 noticias

Filtrar
Herramientas y productos

NVIDIA anuncia Vera Rubin y Groq 3 LPX en producción para sistemas agentic

NVIDIA ha anunciado que su plataforma Vera Rubin NVL72 con el acelerador Groq 3 LPX está en producción completa. Según un benchmark de Artificial Analysis con…

Por qué importaLa producción en volumen de Vera Rubin y Groq 3 LPX señala que NVIDIA está estableciendo un nuevo estándar de infraestructura optimizada para agentes…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 NVIDIA Blog
Herramientas y productos

OpenAI lanza Ultrafast, servicio API de GPT-5.6 Sol 14 veces más rápido

OpenAI ha anunciado Ultrafast, un nuevo nivel de servicio en su API que ejecuta GPT-5.6 Sol con velocidades hasta 14 veces superiores a las estándar. El…

Por qué importaLa velocidad de inferencia es crítica para aplicaciones en producción, especialmente en atención al cliente, análisis en tiempo real y agentes…

Impacto alto Fiabilidad fuente primaria Relevancia 8/10 OpenAI
Herramientas y productos

Liquid AI lanza LFM2.5-2.6B, modelo de agentes eficiente para despliegue local

Liquid AI ha presentado LFM2.5-2.6B, un modelo de 2.6 mil millones de parámetros pre-entrenado en 34 billones de tokens con contexto extendido a 128K. El…

Por qué importaEste modelo representa un avance significativo en la accesibilidad de agentes IA locales: permite desplegar agentes capaces directamente en…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 Hugging Face
Inversión y mercado

General Compute asegura $400 millones con chips de inferencia como colateral

General Compute, startup de nube de inferencia de IA, ha obtenido un préstamo de $400 millones de Upper90, un fondo de inversión tecnológica, usando chips de…

Por qué importaSeñala un cambio estratégico en la inversión en infraestructura de IA: el mercado se aleja de los costosos chips de entrenamiento hacia soluciones de…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI
Investigación

Hugging Face publica guía sobre optimización de atención en PyTorch

Hugging Face ha publicado el tercer artículo de su serie "Profiling in PyTorch" dedicado a la perfilación y optimización del mecanismo de atención en redes…

Por qué importaPara ingenieros y equipos de ML que optimizan modelos de transformers en producción, entender cómo perfilar y analizar cuellos de botella en atención…

Impacto medio Fiabilidad fuente primaria Hugging Face
Herramientas y productos

AWS SageMaker HyperPod añade captura de datos multinivel y despliegue directo de modelos Hugging Face

AWS ha publicado cinco nuevas capacidades para SageMaker HyperPod Inference: captura de datos en tres niveles (endpoint, balanceador de carga, pod de modelo)…

Por qué importaPara equipos que despliegan grandes modelos de IA en producción, estas mejoras reducen fricción operativa (eliminar pre-staging de pesos, acelerar…

Impacto medio Fiabilidad fuente primaria AWS Machine Learning Blog
Inversión y mercado

OpenAI y Broadcom presentan Jalapeño, chip personalizado para inferencia de LLM

OpenAI y Broadcom han presentado Jalapeño, un chip de IA personalizado diseñado específicamente para optimizar la inferencia de modelos de lenguaje grandes. El…

Por qué importaEl desarrollo de chips propios optimizados para inferencia es estratégico para reducir costes operativos y latencias en servicios de IA. Esto permite…

Impacto alto Fiabilidad fuente primaria Relevancia 8/10 OpenAI
Herramientas y productos

Hugging Face usa modelos locales para triaje automático de repositorios sin coste

Hugging Face publicó un caso de uso práctico en el que utiliza modelos locales de código abierto (Gemma y Qwen) ejecutados en hardware propio (NVIDIA GB10 con…

Por qué importaDemuestra la viabilidad económica y técnica de sustituir modelos propietarios por alternativas locales en flujos de producción de alto volumen…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 Hugging Face
Herramientas y productos

NVIDIA Nemotron 3 Ultra disponible en Amazon SageMaker con 5x más rápido y 30% menos costo

AWS anuncia la disponibilidad de NVIDIA Nemotron 3 Ultra en Amazon SageMaker JumpStart con despliegue de un clic. El modelo, con 550 mil millones de parámetros…

Por qué importaPara empresas que desarrollan agentes de IA autónomos, este modelo reduce significativamente el coste operativo y el tiempo de ejecución en tareas de…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 AWS Machine Learning Blog
Inversión y mercado

Startups de chips IA resurgen en inferencia: Nvidia acapara prefill mientras crece la especialización

La industria de IA está migrando del entrenamiento de modelos hacia la inferencia, creando una oportunidad para startups de semiconductores que Nvidia domina…

Por qué importaLa inferencia es un mercado más diverso y fragmentado que el entrenamiento, permitiendo que proveedores especializados no-Nvidia crezcan; pero la…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 The Register AI
Herramientas y productos

Cómo ejecutar agentes de código locales para evitar precios por uso de plataformas grandes

The Register publica una guía práctica sobre cómo desplegar modelos de lenguaje locales como Qwen3.6-27B (27 mil millones de parámetros de Alibaba) para…

Por qué importaPara desarrolladores y pequeñas empresas, ejecutar agentes de código localmente elimina dependencia de APIs de pago y costes variables, permitiendo…

Impacto medio Fiabilidad declaración interesada The Register AI
Herramientas y productos

DeepInfra se integra en Hugging Face como proveedor de inferencia serverless

Hugging Face ha añadido a DeepInfra como proveedor de inferencia soportado en su Hub. La plataforma serverless, que ofrece más de 100 modelos, lanza…

Por qué importaReduce la fricción para desarrolladores que buscan ejecutar modelos open-source en producción: acceso centralizado a múltiples modelos, pricing…

Impacto bajo Fiabilidad fuente primaria Hugging Face
Herramientas y productos

NVIDIA Nemotron 3 Nano Omni disponible en SageMaker JumpStart para agentes multimodales

AWS anuncia la disponibilidad inmediata de NVIDIA Nemotron 3 Nano Omni en Amazon SageMaker JumpStart. Se trata de un modelo multimodal de 30 mil millones de…

Por qué importaPara empresas que construyen agentes autónomos, consolida múltiples pipelines de visión, audio y lenguaje en una única invocación, reduciendo…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

Hugging Face facilita migrar agentes OpenClaw a modelos abiertos

Hugging Face ha publicado un tutorial para migrar agentes OpenClaw (herramientas que usaban modelos cerrados de Anthropic) a modelos abiertos. Ofrece dos…

Por qué importaLas organizaciones con agentes OpenClaw necesitan opciones de continuidad. Esta iniciativa reduce el coste de migración y posiciona a Hugging Face…

Impacto medio Fiabilidad varias fuentes Hugging Face
Herramientas y productos

AWS SageMaker permite reservar capacidad GPU para inferencia con training plans

AWS amplía su servicio de training plans para incluir reservas de capacidad GPU destinadas a inferencia, no solo a entrenamiento. Los clientes pueden ahora…

Por qué importaPara equipos de data science y ML, la capacidad predecible de GPU durante evaluaciones críticas o períodos de prueba reduce retrasos y costes…

Impacto medio Fiabilidad fuente primaria AWS Machine Learning Blog
Investigación

Google Research presenta TurboQuant para comprimir modelos IA sin pérdida de precisión

Google Research ha introducido TurboQuant, un algoritmo de cuantización que comprime vectores de alta dimensión en modelos de lenguaje y motores de búsqueda…

Por qué importaLa compresión eficiente de modelos es crítica para desplegar IA en producción: reduce costes de memoria, acelera inferencias y hace viables…

Impacto alto Fiabilidad fuente primaria Relevancia 8/10 Google Research
Inversión y mercado

Operadores de telecomunicaciones lanzan «redes IA» distribuidas para inferencia en borde

En NVIDIA GTC 2026, operadores de telecomunicaciones estadounidenses y asiáticos (AT&T, Comcast, Spectrum, Akamai, Indosat Ooredoo Hutchison y T-Mobile)…

Por qué importaLas telecos poseen la infraestructura de borde más extensa del mundo, lo que les permite convertirse en proveedoras de compute IA distribuido, no…

Impacto alto Fiabilidad fuente primaria Relevancia 8/10 NVIDIA Blog
Herramientas y productos

AWS amplía acceso a modelos Claude en India con inferencia global distribuida

Amazon Bedrock ha lanzado Global cross-Region Inference (CRIS) para los modelos Claude de Anthropic en regiones de India (Mumbai y Hyderabad), permitiendo que…

Por qué importaPara empresas en India que enfrentan demanda elástica extrema, esta capacidad elimina la necesidad de orquestación manual multiregión y de…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

Google lanza Gemini 3.1 Flash-Lite con precio 8 veces inferior al modelo Pro

Google ha actualizado su familia de modelos económicos Gemini con el lanzamiento de Gemini 3.1 Flash-Lite. El nuevo modelo cuesta $0,25 por millón de tokens de…

Por qué importaLa reducción significativa de precios mantiene la presión competitiva en el mercado de modelos LLM, permitiendo que empresas con presupuestos…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison
Inversión y mercado

SambaNova recauda 350 millones con apoyo de Intel para competir con Nvidia

SambaNova ha levantado 350 millones de dólares en financiación para desarrollar su quinta generación de unidades de procesamiento de datos reconfigurables…

Por qué importaSambaNova representa un desafío técnico y comercial real a la hegemonía de Nvidia en infraestructura de IA, ofreciendo una arquitectura de flujo de…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Register AI
Herramientas y productos

Taalas ejecuta Llama 3.1 8B a 17.000 tokens por segundo con hardware personalizado

Taalas, startup de hardware canadiense, anunció su primer producto: una implementación de hardware personalizado de Llama 3.1 8B capaz de ejecutarse a 17.000…

Por qué importaRepresenta un avance significativo en inferencia optimizada: acelera dramáticamente la velocidad de respuesta de modelos de tamaño mediano mediante…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison
Herramientas y productos

AWS SageMaker añade planes de entrenamiento flexible para inferencia con GPUs reservadas

AWS ha extendido su servicio SageMaker AI Training Plans para soportar endpoints de inferencia, permitiendo reservar capacidad de GPU por periodos específicos…

Por qué importaPara equipos que desplieguen modelos de lenguaje grandes en producción, la disponibilidad de GPU reservada resuelve un problema crítico: la…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 AWS Machine Learning Blog
Empresa y transformación digital

ggml.ai se integra con Hugging Face para impulsar la IA local

Hugging Face ha adquirido ggml.ai, el proyecto liderado por Georgi Gerganov que desarrolla llama.cpp, la herramienta que permitió ejecutar modelos de lenguaje…

Por qué importaLa adquisición asegura la continuidad y el desarrollo de la infraestructura clave para la inferencia local de modelos, eliminando riesgos de abandono…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 Simon Willison
Inversión y mercado

Microsoft presenta Maia 200, su nuevo chip de IA para reducir dependencia de NVIDIA

Microsoft ha presentado el Maia 200, su segundo acelerador de IA de diseño propio orientado a inferencia, fabricado en proceso de 3 nanómetros por TSMC. El…

Por qué importaLa inferencia es un gasto operativo continuo y crítico para empresas de IA; un chip propio más eficiente permite a Microsoft reducir costes y…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Xataka