4-bit precision

Microsoft lanza Maia 200, chip de inferencia IA con 10 petaflops en 4-bit

Microsoft ha anunciado el lanzamiento del chip Maia 200, diseñado para optimizar la inferencia de modelos de IA. El nuevo chip dispone de más de 100 mil…

Por qué importaLa inferencia es ahora el principal factor de coste en operaciones de IA después del entrenamiento, y optimizarla es crítico para la viabilidad…