Kernels WebGPU de Hugging Face para IA local en navegador

Resumen En qué punto está

Hugging Face ha publicado @huggingface/kernels, una biblioteca de 207 kernels WebGPU optimizados para ejecutar modelos de IA directamente en el navegador, cada uno versionado y documentado en el Hub con pruebas y benchmarks. Los resultados muestran mejoras de hasta 2,57x en media geométrica frente a ORT WebGPU en GPU Apple M4, con picos extremos de hasta 10.000x en casos concretos. Esta publicación se enmarca en una tendencia más amplia de ejecución local de modelos de IA, como ilustra también una guía de Wired sobre instalación de LLM en ordenadores personales. El lanzamiento busca facilitar el despliegue de IA en aplicaciones web sin depender de servidores externos.

Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: 8 sep.