Hugging Face lanza AnyLanguageModel 1.0 para usar modelos locales y en la nube con una misma API en Apple
Hecho Qué ha ocurrido
Hugging Face ha publicado AnyLanguageModel 1.0, junto con swift-huggingface 1.0 y swift-xet 1.0, bibliotecas para Swift. Permiten usar la API de Foundation Models con modelos del sistema, modelos de pesos abiertos mediante llama.cpp, MLX y Core ML, y proveedores alojados. El texto indica que también funciona en Linux y con modelos de OS 27 que cumplen el protocolo LanguageModel.
Resumen generado mediante IA a partir de Hugging Face (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Facilita a los equipos de desarrollo de apps Apple cambiar entre modelos locales y en la nube sin reescribir el código de sesión. Reduce la dependencia de un único proveedor en aplicaciones móviles y de escritorio.
- Quién se ve afectado
- Desarrolladores de aplicaciones para iOS, macOS y servidores Linux que usen Swift.
- Qué puede cambiar
- Las apps podrían elegir el modelo por tarea y ejecutar modelos pequeños en el dispositivo, reservando los modelos alojados para tareas más exigentes.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Adopción de la biblioteca en apps de producción, evolución del soporte para OS 27 y si los proveedores alojados mantienen las mismas funciones de herramientas y streaming.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Hugging Face (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗LLMmodelos localesMLXCore MLllama.cpp Hugging FaceAppleZ.ai AnyLanguageModel Apple código abierto Hugging Face Swift
Relacionadas
Cómo ejecutar un modelo de lenguaje en tu ordenador personal
Wired publica una guía sobre la instalación y ejecución local de modelos de lenguaje (LLM) en computadoras personales usando software gratuito como LM Studio…
Por qué importaLa ejecución local de LLM permite a usuarios y empresas acceder a capacidades de IA sin enviar datos a la nube, evitando costes de suscripción y…
Liquid AI lanza LFM2.5-VL-DSpark para acelerar modelos de visión y lenguaje en edge y GPU
Liquid AI presentó LFM2.5-VL-DSpark, un modelo 'draft' de decodificación especulativa de 280M de parámetros para acelerar su modelo de visión-lenguaje…
Por qué importaReducir la latencia de inferencia de modelos multimodales en dispositivos edge y GPU abarata y acelera el despliegue de aplicaciones de visión…
DeepInfra se integra en Hugging Face como proveedor de inferencia serverless
Hugging Face ha añadido a DeepInfra como proveedor de inferencia soportado en su Hub. La plataforma serverless, que ofrece más de 100 modelos, lanza…
Por qué importaReduce la fricción para desarrolladores que buscan ejecutar modelos open-source en producción: acceso centralizado a múltiples modelos, pricing…
ggml.ai se integra con Hugging Face para impulsar la IA local
Hugging Face ha adquirido ggml.ai, el proyecto liderado por Georgi Gerganov que desarrolla llama.cpp, la herramienta que permitió ejecutar modelos de lenguaje…
Por qué importaLa adquisición asegura la continuidad y el desarrollo de la infraestructura clave para la inferencia local de modelos, eliminando riesgos de abandono…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.