PrismML lanza Bonsai 2, LLM comprimido que retiene el 98% del rendimiento en 5,9 GB
Hecho Qué ha ocurrido
PrismML, startup fundada por investigadores de Caltech y liderada por Babak Hassibi, lanzó Bonsai 2 27B, una versión comprimida del modelo abierto Qwen3.8 27B de Alibaba que ocupa solo 5,9 GB, una reducción de 9 a 10 veces respecto al original. La compañía afirma que el modelo mantiene el 98% del rendimiento en benchmarks agregados, frente al 95% de la versión anterior lanzada en marzo. PrismML ha recaudado una ronda semilla de 22,25 millones de dólares con apoyo de Khosla Ventures, Cerberus Capital y Caltech, y cuenta con Ion Stoica como asesor. Su primer modelo Bonsai ha sido descargado más de 11 millones de veces.
Resumen generado mediante IA a partir de TechCrunch AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La compresión permite ejecutar modelos de razonamiento capaces directamente en PCs y smartphones, sin depender de la nube, lo que reduce costes, mejora la privacidad y elimina latencia.
- Quién se ve afectado
- Fabricantes de dispositivos, desarrolladores de aplicaciones on-device, empresas preocupadas por privacidad de datos y equipos de IT que gestionan infraestructura de inferencia.
- Qué puede cambiar
- Si la tecnología escala a modelos de cientos de miles de millones de parámetros como planea PrismML, podría reducir la dependencia de servidores en la nube para ejecutar IA avanzada, abaratando costes operativos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si PrismML cierra acuerdos con fabricantes de hardware como Apple, si logra compresión sin pérdida en modelos de gran escala, y cómo responden competidores como Multiverse Computing.
Recomendación Qué debería hacer una empresa
Equipos de IT y producto pueden evaluar en los próximos 6-12 meses modelos comprimidos tipo Bonsai para casos de uso on-device donde privacidad y coste sean críticos.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: TechCrunch AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMcompresión de modelosedge AI PrismMLAlibabaKhosla VenturesMultiverse Computing Bonsai 2compresión LLMedge AIPrismMLQwen
Tu opinión
0 comentarios
Relacionadas
Google lanza CC, agente experimental de IA compartido para familias
Google Labs presentó CC, un agente de IA experimental diseñado para ser compartido por hasta seis miembros de una familia. Tiene su propia cuenta de Google y…
Por qué importaMuestra cómo Google intenta diferenciarse aprovechando el volumen de datos personales de su ecosistema para IA más contextual, aunque orientada a…
La ONU y Google lanzan plataforma de datos globales lista para agentes de IA
La ONU anunció el UN System Data Commons, construido sobre la plataforma open source Data Commons de Google, que permite consultas en lenguaje natural y…
Por qué importaMuestra tanto el interés de organismos públicos en hacer sus datos 'AI-ready' como la magnitud del problema de fiabilidad de los LLM al citar cifras…
Google y la ONU lanzan UN System Data Commons, plataforma abierta de datos globales con IA
Google y el sistema de Naciones Unidas han lanzado UN System Data Commons, una plataforma abierta construida sobre Data Commons de Google que integra…
Por qué importaFacilita que investigadores, periodistas y responsables de políticas públicas accedan a datos oficiales fiables sin el trabajo manual de integrar…
Anthropic relanza Projects en Claude Code para gestionar múltiples agentes en la nube
Anthropic ha relanzado la función Projects en Claude Code, que permite ejecutar múltiples agentes bajo un mismo proyecto con memoria compartida, objetivos y…
Por qué importaFacilita escalar el trabajo de desarrollo con IA a nivel de equipo, permitiendo paralelizar tareas de codificación complejas sin perder coherencia…