Ir al contenido
IA para hoy

inferencia

Noticias etiquetadas con «inferencia»

53 noticias

Filtrar
Empresa y transformación digital

WD advierte de que el almacenamiento de datos generados por la inferencia de IA es un coste poco previsto

Un artículo patrocinado por WD, publicado en MIT Technology Review, sostiene que la inferencia de IA genera grandes volúmenes de datos de respaldo que hay que…

Por qué importaEl presupuesto de IA suele centrarse en cómputo y el almacenamiento puede crecer sin control detrás de los costes de GPU. Conviene incluir la…

Impacto medio Fiabilidad una fuente fiable MIT Technology Review
Investigación

VocabX reduce un 77% el coste de inferencia de modelos pequeños especializando su vocabulario

Dharma-AI presenta un avance de su artículo VocabX, que reconstruye el vocabulario de un modelo Qwen3-4B para un calificador de redacciones en portugués, según…

Por qué importaPara empresas que despliegan modelos pequeños especializados, el tokenizador puede ser una palanca de coste tan relevante como el propio modelo. Es…

Impacto medio Fiabilidad una fuente fiable Hugging Face
Herramientas y productos

DeepSeek libera en GitHub DeepInfer, el motor de inferencia que usa en producción para sus modelos

DeepSeek publicó en GitHub, desde el 16 de octubre, DeepInfer, el framework de inferencia que usa en producción, con licencia Apache 2.0. La primera versión…

Por qué importaDa a las empresas una ruta oficial para servir modelos de DeepSeek en su propia infraestructura, sin enviar datos a terceros. También sube el listón…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Enter.co
Inversión y mercado

Tenstorrent alcanza una valoración de 6.200 millones de dólares tras captar 1.500 millones

La startup de chips para inferencia Tenstorrent ha captado 1.500 millones de dólares a una valoración de 6.200 millones, más del doble que en 2024. La ronda la…

Por qué importaMuestra que hay capital disponible para competidores de Nvidia en chips de inferencia, lo que puede ampliar las opciones de hardware para empresas…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI
Modelos y avances

Deepgram reporta entre 11 y 70 % más audio procesado por dólar al portar Nova-3 a AWS Trainium2

Deepgram, con el equipo de ingeniería de AWS, adaptó su modelo de voz a texto Nova-3 a AWS Trainium2 para transcripción por lotes. Según la propia empresa y…

Por qué importaPara proveedores de voz con gran volumen de transcripción, el coste por hora de audio depende del hardware y del software de inferencia tanto como…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog
Inversión y mercado

Substrate AI prevé superar los 100 millones de euros de facturación en 2030 con tecnología propia

Substrate AI, empresa cotizada en BME Growth, presentó en Madrid, durante el AI SUMMIT, un plan estratégico aprobado por unanimidad por su consejo de…

Por qué importaMuestra a un proveedor español de IA que intenta integrarse verticalmente, de la infraestructura al modelo y al servicio, algo que puede afectar a…

Impacto bajo Fiabilidad declaración interesada Computing España
Inversión y mercado

Blackfuel despliega una plataforma de inferencia de IA en el centro de datos BCN1 de Digital Realty en Barcelona

Blackfuel, especializada en inferencia de IA, ha elegido el centro de datos BCN1 de Digital Realty en Barcelona para desplegar y escalar su plataforma. La…

Por qué importaAcerca la inferencia de IA a los lugares donde ya están los datos y las aplicaciones de las empresas, lo que puede simplificar el uso de IA sin mover…

Impacto medio Fiabilidad declaración interesada Silicon España
Inversión y mercado

Microsoft presenta Maia 300, su nuevo chip de IA que llegará en 2027

Microsoft ha presentado Maia 300, su chip de inteligencia artificial de tercera generación, que llegará en 2027. Está diseñado para optimizar la inferencia y…

Por qué importaUn chip propio optimizado para inferencia puede reducir la dependencia de proveedores externos de hardware y cambiar los costes de servir modelos en…

Impacto medio Fiabilidad confirmado por varias fuentes Europa Press Portaltic
Inversión y mercado

Microsoft presenta Maia 300, la tercera generación de sus chips de IA, con despliegue previsto en 2027

Microsoft ha presentado Maia 300, la tercera generación de sus aceleradores de IA, y ha fijado para 2027 el inicio de su despliegue en producción. La compañía…

Por qué importaLa decisión muestra que los grandes proveedores de nube buscan reducir su dependencia de NVIDIA y controlar el coste de la inferencia. Para las…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Xataka
Herramientas y productos

Amazon Bedrock ofrece los modelos GPT-6 de OpenAI con inferencia entre regiones en Asia-Pacífico

AWS explica cómo invocar los modelos GPT-6 Sol, GPT-6 Luna y GPT-6 Astra en Amazon Bedrock mediante perfiles de inferencia global entre regiones. Sol y Luna se…

Por qué importaPara equipos de la región, el acceso entre regiones puede absorber picos de demanda que superan la capacidad local, sin cambiar de proveedor de…

Impacto medio Fiabilidad fuente primaria AWS Machine Learning Blog
Herramientas y productos

AWS explica cómo desplegar modelos de decisión con llama.cpp en SageMaker AI

AWS publica una guía técnica para desplegar modelos con llama.cpp en SageMaker AI usando su contenedor DLC, que sirve chat compatible con OpenAI. Además…

Por qué importaPara equipos que necesitan clasificar o enrutar casos entre opciones cerradas, puede reducir latencia y evitar parsear texto libre. Los resultados…

Impacto bajo Fiabilidad una fuente fiable AWS Machine Learning Blog
Herramientas y productos

AWS explica cómo desplegar un LLM en dos nodos GPU con prefill y decode separados en EKS

AWS publica una guía para desplegar un modelo de lenguaje grande en dos nodos GPU de Amazon EKS usando los contenedores de aprendizaje profundo de Ray LLM, con…

Por qué importaPara equipos que sirven modelos grandes o necesitan más rendimiento, la separación de prefill y decode puede mejorar la latencia y el escalado, pero…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog
Herramientas y productos

NVIDIA y OpenAI lanzan GPT-6 Astra Ultrafast, hasta 8 veces más rápido en generación de tokens

OpenAI ha lanzado GPT-6 Astra Ultrafast, disponible en la API y para usuarios elegibles de ChatGPT Work y Codex, que corre sobre GPUs NVIDIA Blackwell. Según…

Por qué importaUna generación de tokens mucho más rápida reduce la latencia en bucles de agentes (escribir código, usar herramientas, verificar resultados), lo que…

Impacto medio Fiabilidad declaración interesada NVIDIA Blog
Herramientas y productos

Startup usa neuronas cultivadas para acelerar y abaratar generación de vídeo con IA

The Biological Computing Co. (TBC) anunció una alianza con AWS para vender un modelo de texto a vídeo que promete generar vídeo 5 veces más rápido y con 80%…

Por qué importaSi se confirma, reduciría de forma notable los costes de generación de vídeo por IA, un área especialmente cara en inferencia. Sin embargo, la falta…

Impacto bajo Fiabilidad declaración interesada The Decoder
Herramientas y productos

AWS resume 13 lanzamientos de inferencia en SageMaker AI durante el primer semestre de 2026

AWS publicó un repaso de 13 lanzamientos de capacidades de inferencia en Amazon SageMaker AI durante la primera mitad de 2026, divididos entre endpoints…

Por qué importaEstas mejoras reducen tiempos y costes operativos de desplegar modelos generativos en producción, un problema técnico recurrente para equipos de…

Impacto bajo Fiabilidad una fuente fiable AWS Machine Learning Blog
Herramientas y productos

AWS lanza SageMaker HyperPod Inference Gateway para enrutamiento de inferencia según uso de GPU

AWS presenta Amazon SageMaker HyperPod Inference Gateway, un addon nativo de Kubernetes para EKS que enruta cada solicitud de inferencia al pod más adecuado…

Por qué importaPara empresas que ejecutan LLMs a gran escala en GPU, un enrutamiento más inteligente puede reducir costes de sobreaprovisionamiento y mejorar la…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog
Inversión y mercado

Startups Far Labs y Evolving Edge lanzan mercado de inferencia distribuida con ordenadores domésticos

Las startups Far Labs y Evolving Edge proponen un modelo de negocio que aprovecha la capacidad de procesamiento ociosa de ordenadores de sobremesa personales…

Por qué importaSi el modelo funciona, podría abaratar y descentralizar el acceso a capacidad de cómputo para inferencia, reduciendo la dependencia de grandes…

Impacto bajo Fiabilidad declaración interesada Europa Press Portaltic
Herramientas y productos

AWS añade caché de modelos en SageMaker HyperPod para reducir arranques en frío

AWS lanzó soporte de model caching en Amazon SageMaker HyperPod para inferencia, que precarga pesos de modelos e imágenes de contenedor en almacenamiento NVMe…

Por qué importaPara empresas que despliegan LLMs grandes en producción, los tiempos de arranque en frío limitan la capacidad de autoescalado real ante picos de…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog
Inversión y mercado

AWS incorpora chips de Qualcomm para inferencia de IA en su infraestructura de nube

Qualcomm está diseñando chips personalizados para AWS enfocados en inferencia de IA, además de colaborar en interconexiones ópticas de hasta 1,6 terabits. AWS…

Por qué importaRefleja la diversificación de proveedores de chips de IA por parte de los grandes hiperescaladores, reduciendo la dependencia de Nvidia y buscando…

Impacto medio Fiabilidad varias fuentes The Decoder
Inversión y mercado

AWS compara instancias G7, G6 y G5 para inferencia de LLM pequeños en SageMaker

AWS publicó un benchmark comparando instancias G5, G6, G6e y G7 de SageMaker AI para inferencia de dos modelos MoE de 30B (Qwen3-Coder-30B y NVIDIA…

Por qué importaPara equipos que despliegan LLM en producción, elegir la instancia adecuada puede reducir significativamente el coste por token y la latencia…

Impacto bajo Fiabilidad una fuente fiable AWS Machine Learning Blog
Empresa y transformación digital

Analistas alertan que la memoria y el almacenamiento son el cuello de botella de la infraestructura de IA

El artículo, con declaraciones de Jim McGregor (Tirias Research), argumenta que la inferencia de IA y los agentes autónomos exigen repensar la arquitectura de…

Por qué importaLas empresas que despliegan IA en producción enfrentan cuellos de botella no solo en potencia de cómputo sino en cómo mueven y acceden a los datos…

Impacto medio Fiabilidad una fuente fiable MIT Technology Review
Herramientas y productos

Plataformas distribuidas monetizan la inferencia de IA en ordenadores personales y servidores caseros

Varias empresas (Far Labs, Evolving Edge, Bless Network, Salad y Gradient) lanzan plataformas que permiten a usuarios rentabilizar su capacidad de cómputo…

Por qué importaReduce costes de inferencia significativamente (sin inversión de capital en infraestructura) y distribuye la carga computacional, mejorando la…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 IEEE Spectrum AI
Herramientas y productos

AWS y NVIDIA reducen costes de inferencia de reconocimiento de voz en un 75%

AWS, NVIDIA y Heidi Health han publicado un estudio técnico demostrando cómo usar NVIDIA CUDA Multi-Process Service (MPS) en Amazon EC2 reduce la…

Por qué importaReduce drásticamente los costes operativos de desplegar modelos de IA en producción, lo que es crítico para empresas de servicios basados en voz como…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Inversión y mercado

OpenAI presenta Jalapeño, su chip propio de inferencia con mayor eficiencia

OpenAI ha anunciado los primeros resultados de Jalapeño, un chip personalizado diseñado para inferencia de IA. Según la compañía, el chip ofrece mayor…

Por qué importaQue OpenAI desarrolle su propio silicio reduce su dependencia de proveedores externos como Nvidia y podría abaratar los costes de servir sus modelos…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 OpenAI