BitNet: ejecución de LLMs en hardware antiguo con pesos ternarios

Línea temporal

1. 5 abr
   Xataka MéxicoFiabilidad declaración interesada

   Demuestran que modelos de IA funcionan con solo 128 MB de RAM en procesadores de 1997

   Investigadores liderados por Andrej Karpathy y EXO Labs ejecutaron un modelo basado en Llama 2 en una computadora con procesador Pentium II de 350 MHz y 128 MB de RAM, alcanzando 39 tokens por segundo. La hazaña se…