Integración de cuantización Nunchaku en Diffusers
Línea temporal
-
Hugging Face integra cuantización Nunchaku 4-bit en Diffusers para inferencia de imagen más rápida
Hugging Face ha integrado la técnica de cuantización SVDQuant de Nunchaku directamente en su librería Diffusers, permitiendo cargar modelos de difusión con pesos y activaciones de 4 bits (W4A4) sin compilación local. La…