Ir al contenido
IA para hoy

optimización de costes

Noticias etiquetadas con «optimización de costes»

25 noticias

Filtrar
Investigación

Nvidia presenta SoL-Pi, un sistema que reduce casi a la mitad el uso de tokens en agentes de codificación

Investigadores de Nvidia desarrollaron SoL-Pi, un sistema que optimiza automáticamente el 'harness' (capa de control) entre modelos y agentes de codificación…

Por qué importaMuestra que optimizar la capa de orquestación de agentes puede reducir costes casi tanto como cambiar de modelo, abriendo una vía de ahorro…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 The Decoder
Herramientas y productos

AWS explica cómo el prompt caching de Amazon Bedrock reduce hasta un 90% el coste de tokens

AWS publicó una guía técnica sobre el prompt caching en Amazon Bedrock, que permite reducir hasta un 90% el coste de tokens de entrada cuando se reenvía el…

Por qué importaPara empresas que usan LLMs en producción con contexto repetido (documentos, prompts de sistema, herramientas de agentes), esta técnica puede reducir…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog
Herramientas y productos

AWS y NVIDIA reducen costes de inferencia de reconocimiento de voz en un 75%

AWS, NVIDIA y Heidi Health han publicado un estudio técnico demostrando cómo usar NVIDIA CUDA Multi-Process Service (MPS) en Amazon EC2 reduce la…

Por qué importaReduce drásticamente los costes operativos de desplegar modelos de IA en producción, lo que es crítico para empresas de servicios basados en voz como…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Inversión y mercado

Drew Breunig: El fin de la «comida gratis» en modelos de IA y optimización de costes

Drew Breunig, en declaraciones recogidas por Simon Willison, reflexiona sobre el cambio de dinámica en el desarrollo con IA tras la llegada de Fable. Señala…

Por qué importaRefleja un cambio de paradigma: la curva de mejora de modelos de bajo coste ha llegado a un punto donde optimizar prompts y contexto es más rentable…

Impacto medio Fiabilidad una fuente fiable Simon Willison
Herramientas y productos

AWS combina SageMaker HyperPod y Curvine para reducir costes de inferencia en LLM

AWS ha publicado una arquitectura de caché KV multinivel para inferencia de LLM en SageMaker HyperPod que integra Curvine (sistema de ficheros distribuido…

Por qué importaReduce significativamente los costes de infraestructura en despliegues de LLM a escala al optimizar el almacenamiento en caché compartido. Equipos…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

NVIDIA lanza Nemotron 3.5 Lightning y NeMo Switchyard para agentes autónomos más eficientes

NVIDIA ha presentado Nemotron 3.5 Lightning, un modelo de 30 mil millones de parámetros con arquitectura de mezcla de expertos, diseñado para cargas de trabajo…

Por qué importaEstos lanzamientos resuelven dos desafíos críticos en sistemas de agentes autónomos: la eficiencia operativa en tareas especializadas repetitivas y…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 NVIDIA Blog
Empresa y transformación digital

Accenture: empleados no técnicos generan más gasto en tokens que ingenieros

Según grabaciones de reuniones filtradas en Accenture, los datos internos muestran que son los empleados no técnicos, no los ingenieros, quienes generan la…

Por qué importaRevela un patrón empresarial clave: el gasto en IA está descontrolado entre usuarios no técnicos por falta de conciencia sobre la eficiencia de…

Impacto medio Fiabilidad una fuente fiable Simon Willison
Herramientas y productos

AWS publica prácticas para guardrails en generación de código con Bedrock

AWS publicó un post en su blog de machine learning explicando cómo configurar Amazon Bedrock Guardrails para flujos de generación de código con asistentes como…

Por qué importaLos guardrails son críticos para evitar código malicioso, fugas de credenciales y ataques de prompt injection en entornos de producción, pero…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog
Investigación

IBM Research: enrutar modelos en agentes de IA es un problema de optimización de sistemas

IBM Research publica en Hugging Face un análisis sobre el enrutamiento de modelos en sistemas de agentes. El equipo descubre que seleccionar entre modelos como…

Por qué importaPara equipos que construyen sistemas de agentes IA en producción, las decisiones sobre enrutamiento afectan directamente a costes reales, latencia y…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Hugging Face
Herramientas y productos

AWS y Anthropic optimizan extracción de documentos con pipeline de dos modelos

AWS publicó un caso de uso en el que combina Amazon Nova 2 Lite con Claude Sonnet 4.6 en Amazon Bedrock para digitalizar documentos escaneados a escala. El…

Por qué importaDemuestra una estrategia práctica y económica de composición de modelos: delegar tareas específicas al modelo más eficiente según su coste y…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

NVIDIA Nemotron 3 Ultra disponible en Amazon SageMaker con 5x más rápido y 30% menos costo

AWS anuncia la disponibilidad de NVIDIA Nemotron 3 Ultra en Amazon SageMaker JumpStart con despliegue de un clic. El modelo, con 550 mil millones de parámetros…

Por qué importaPara empresas que desarrollan agentes de IA autónomos, este modelo reduce significativamente el coste operativo y el tiempo de ejecución en tareas de…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

Hugging Face lanza Delta Weight Sync para entrenar modelos de billones de parámetros eficientemente

Hugging Face ha publicado Delta Weight Sync, una implementación de código abierto que optimiza la sincronización de pesos en entrenamientos de reinforcement…

Por qué importaPara entrenamientos distribuidos de modelos muy grandes, la sincronización de pesos representa un cuello de botella crítico que consume tiempo de GPU…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 Hugging Face
Herramientas y productos

Tomofun reduce costes de inferencia con chips Inferentia2 de AWS en cámaras de mascotas

Tomofun, startup taiwanesa detrás de Furbo Pet Camera, migró sus cargas de inferencia de visión-lenguaje desde instancias GPU a EC2 Inf2 con chips AWS…

Por qué importaDemuestra un caso práctico de optimización de costes en IA de visión a escala: migración de carga GPU a chips especializados sin reescribir el código…

Impacto medio Fiabilidad fuente primaria AWS Machine Learning Blog
Empresa y transformación digital

Popsa genera 5,5 millones de títulos personalizados con Amazon Nova y Claude

Popsa, plataforma de diseño de fotobooks, reemplazó su algoritmo de sugerencia de títulos basado en reglas por un sistema de IA generativa usando Amazon…

Por qué importaDemuestra cómo modelos más nuevos y económicos (Nova Lite) pueden reemplazar soluciones previas sin sacrificar calidad, reduciendo costos operativos…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Empresa y transformación digital

Mercadona reemplaza buscador de 8 años con uno propio creado en 3 días usando Claude Code

Mercadona ha sustituido Algolia, su servicio de búsqueda de 8 años que procesaba 4,4 millones de búsquedas semanales, por un buscador interno desarrollado por…

Por qué importaDemuestra que herramientas de IA como Claude Code pueden comprimir de forma radical los tiempos de desarrollo de sistemas críticos de negocio…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Xataka
Herramientas y productos

AWS Batch y Parakeet-TDT reducen costes de transcripción multilingüe a fracción de céntimo

AWS publica una arquitectura de transcripción de audio escalable basada en el modelo NVIDIA Parakeet-TDT-0.6B-v3, combinado con AWS Batch, EC2 Spot Instances e…

Por qué importaPara empresas que procesan a escala archivos de audio (centros de contacto, bibliotecas de medios, preparación de datos, subtitulado de vídeo), este…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

AWS lanza instancias G7e con GPUs Blackwell para inferencia de IA generativa más económica

AWS anunció la disponibilidad de instancias G7e en Amazon SageMaker AI, equipadas con GPUs NVIDIA RTX PRO 6000 Blackwell que ofrecen 96 GB de memoria GDDR7 por…

Por qué importaPara directivos y equipos de operaciones, esta disponibilidad reduce significativamente el coste operativo de ejecutar modelos de lenguaje grandes en…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

AWS Bedrock: transferencia de inteligencia de modelo grande a pequeño reduce costes un 95%

AWS publicó una guía técnica sobre Model Distillation en Amazon Bedrock que permite transferir capacidades de enrutamiento de un modelo grande (Amazon Nova…

Por qué importaLa destilación de modelos es una técnica práctica para empresas que necesitan equilibrar precisión y coste en tareas complejas: permite usar modelos…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

AWS SageMaker JumpStart añade despliegues optimizados por caso de uso

Amazon ha lanzado SageMaker JumpStart optimized deployments, una nueva funcionalidad que permite desplegar modelos de lenguaje con configuraciones predefinidas…

Por qué importaSimplifica el despliegue de modelos en producción al eliminar la necesidad de configuración manual compleja, acelerando el tiempo desde selección…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

AWS SageMaker HyperPod: optimización de inferencia con auto-escalado dinámico

AWS ha publicado una guía de buenas prácticas para desplegar modelos de inferencia en Amazon SageMaker HyperPod, destacando capacidades de escalado dinámico…

Por qué importaPara equipos que despliegan modelos generativos a escala, la automatización de infraestructura y el escalado a cero pueden traducirse en ahorros…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog
Herramientas y productos

AWS SageMaker permite reservar capacidad GPU para inferencia con training plans

AWS amplía su servicio de training plans para incluir reservas de capacidad GPU destinadas a inferencia, no solo a entrenamiento. Los clientes pueden ahora…

Por qué importaPara equipos de data science y ML, la capacidad predecible de GPU durante evaluaciones críticas o períodos de prueba reduce retrasos y costes…

Impacto medio Fiabilidad fuente primaria AWS Machine Learning Blog
Herramientas y productos

AWS mejora el contenedor LMI con caché inteligente para inferencia de contextos extensos

AWS ha publicado actualizaciones al contenedor Large Model Inference (LMI) con soporte para LMCache, una solución de caché de pares clave-valor que reutiliza…

Por qué importaReduce significativamente los costes de inferencia en cargas de trabajo con contextos largos (millones de tokens), permitiendo procesar el doble de…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

AWS SageMaker añade planes de entrenamiento flexible para inferencia con GPUs reservadas

AWS ha extendido su servicio SageMaker AI Training Plans para soportar endpoints de inferencia, permitiendo reservar capacidad de GPU por periodos específicos…

Por qué importaPara equipos que desplieguen modelos de lenguaje grandes en producción, la disponibilidad de GPU reservada resuelve un problema crítico: la…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 AWS Machine Learning Blog
Herramientas y productos

Anthropic revela prompt caching como pilar de Claude Code para reducir latencia y costes

Thariq Shihipar, de Anthropic, declara que Claude Code, su producto de agentes de larga duración, se construye íntegramente sobre prompt caching. Esta técnica…

Por qué importaLa arquitectura de Claude Code muestra cómo los proveedores optimizan costes y experiencia en productos agenticos de larga duración. Para empresas…

Impacto medio Fiabilidad una fuente fiable Simon Willison