NVIDIA NeMo AutoModel optimiza entrenamiento de modelos MoE
Línea temporal
-
NVIDIA NeMo AutoModel acelera el entrenamiento de modelos MoE un 3.4x con API compatible
NVIDIA ha lanzado NeMo AutoModel, una librería abierta que optimiza el entrenamiento de modelos de mezcla de expertos (MoE) sobre Transformers v5. El sistema logra 3.4-3.7x mayor throughput de entrenamiento y reduce el…