Delta Weight Sync: sincronización eficiente para entrenamientos de billones de parámetros

Línea temporal

1. 27 may
   Hugging FaceFiabilidad fuente primaria

   Hugging Face lanza Delta Weight Sync para entrenar modelos de billones de parámetros eficientemente

   Hugging Face ha publicado Delta Weight Sync, una implementación de código abierto que optimiza la sincronización de pesos en entrenamientos de reinforcement learning asincrónico de gran escala. El sistema utiliza…