cuantización: noticias de IA

Hugging Face integra cuantización Nunchaku 4-bit en Diffusers para inferencia de imagen más rápida

Hugging Face ha integrado la técnica de cuantización SVDQuant de Nunchaku directamente en su librería Diffusers, permitiendo cargar modelos de difusión con…

Por qué importaEsta integración democratiza la optimización de inferencia de modelos de difusión, reduciendo barreras técnicas y permitiendo a más empresas…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 Hugging Face

Herramientas y productos 10 jul

AWS publica patrones de despliegue de modelos cuantizados con Unsloth en SageMaker

AWS ha publicado una guía técnica co-escrita con Unsloth sobre cuatro patrones para desplegar modelos de lenguaje cuantizados en su infraestructura. La…

Por qué importaPara equipos de operaciones y DevOps, la cuantización es crítica porque reduce radicalmente los costes de inferencia: un modelo de 8 mil millones de…

Impacto medio Fiabilidad fuente primaria AWS Machine Learning Blog

Herramientas y productos 2 jun

Hugging Face presenta Holo3.1: agentes de IA para desktop, móvil y edge local

Hugging Face lanza la familia Holo3.1, una versión mejorada de su modelo de agentes de uso de computadora basado en Qwen. La versión de 35B mejora el…

Por qué importaPermite a empresas desplegar agentes autónomos en entornos variados (web, desktop, móvil) con ejecución completamente local y privada, eliminando la…

Impacto alto Fiabilidad fuente primaria Relevancia 7/10 Hugging Face

Investigación 12 may

OpenAI publica conclusiones del concurso 'Parameter Golf' sobre investigación asistida por IA

OpenAI organizó un evento llamado 'Parameter Golf' con más de 1.000 participantes y 2.000 envíos, centrado en explorar investigación de machine learning…

Por qué importaIlustra cómo OpenAI usa competiciones abiertas para explorar el uso de agentes de IA en el propio proceso de investigación en ML, un área clave para…

Impacto bajo Fiabilidad una fuente fiable OpenAI

Herramientas y productos 5 may

IBM lanza Granite 4.1, modelos LLM open source de 3B a 30B parámetros

IBM ha publicado la familia Granite 4.1 de modelos de lenguaje bajo licencia Apache 2.0, disponibles en tamaños de 3B, 8B y 30B parámetros. Unsloth ha liberado…

Por qué importaLa disponibilidad de modelos open source de tamaño reducido permite a empresas y desarrolladores ejecutar IA generativa en infraestructura propia sin…

Impacto medio Fiabilidad una fuente fiable Simon Willison

Investigación 26 mar

Cuantización de modelos de lenguaje: IA de 16 bits a 4 bits con calidad del 90%

Sam Rose publica un análisis técnico detallado sobre cuantización de LLM que incluye explicación interactiva de números en punto flotante y valores atípicos…

Por qué importaLa cuantización es técnica clave para desplegar modelos en dispositivos con recursos limitados y reducir costes de inferencia. Entender el impacto…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison

Investigación 24 mar

Google Research presenta TurboQuant para comprimir modelos IA sin pérdida de precisión

Google Research ha introducido TurboQuant, un algoritmo de cuantización que comprime vectores de alta dimensión en modelos de lenguaje y motores de búsqueda…

Por qué importaLa compresión eficiente de modelos es crítica para desplegar IA en producción: reduce costes de memoria, acelera inferencias y hace viables…

Impacto alto Fiabilidad fuente primaria Relevancia 8/10 Google Research

Investigación 19 mar

Ejecutar el modelo Qwen de 397B localmente en MacBook usando técnicas de Apple

Dan Woods consiguió ejecutar una versión personalizada del modelo Qwen3.5-397B-A17B a 5.5+ tokens/segundo en un MacBook Pro M3 Max de 48GB, usando técnicas de…

Por qué importaDemuestra que modelos de escala de 397B pueden ejecutarse localmente en hardware de consumo sin sacrificar demasiado rendimiento, eliminando…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison