inferencia en CPU

Demuestran que modelos de IA funcionan con solo 128 MB de RAM en procesadores de 1997

Investigadores liderados por Andrej Karpathy y EXO Labs ejecutaron un modelo basado en Llama 2 en una computadora con procesador Pentium II de 350 MHz y 128 MB…

Por qué importaDemuestra que la IA puede democratizarse en hardware antiguo o de bajo costo, reduciendo la dependencia de infraestructura cara y abriendo nuevas…