Noticias etiquetadas con «PyTorch»
13 noticias
Amazon publica en Hugging Face la primera parte de una guía sobre perfilado de rendimiento de inferencia en AWS Trainium con TorchNeuron, su backend nativo de…
Por qué importaPara equipos que ejecutan modelos en hardware de Amazon, identificar dónde se consume el tiempo de inferencia permite reducir costes sin cambiar el…
Google abrió el código de TorchTPU, una herramienta para ejecutar programas de IA escritos para chips de Nvidia en sus procesadores TPU, y un día antes Amazon…
Por qué importaSi PyTorch deja de estar ligado a un solo fabricante, las empresas ganan poder de negociación en la compra de infraestructura de IA. La decisión de…
i14 ha entrenado y servido Laplace 3B, un modelo de atención lineal con Gated Linear Attention, en aceleradores AWS Trainium2 mediante PyTorch nativo. Según el…
Por qué importaPresenta una alternativa a la caché KV de los transformers que podría hacer más predecible y barato el servicio de agentes y de análisis de…
Google anunció que TorchTPU, su versión de PyTorch orientada a sus chips TPU, ya está disponible como proyecto de código abierto. Según el texto, permite…
Por qué importaReduce el coste de cambiar de proveedor de hardware para aplicaciones construidas sobre PyTorch, un marco que el texto sitúa en el 85% de las…
Hugging Face anuncia que TorchTPU añade las TPU de Google como backend de PyTorch, lo que permite ejecutar modelos de Transformers y Diffusers en TPU sin…
Por qué importaReduce la fricción para equipos que usan PyTorch y quieren entrenar o servir modelos fuera de GPU, con menos código específico que mantener. Aun así…
Hugging Face describe las novedades de PyTorch 2.15 para el backend MPS, que permite ejecutar y entrenar modelos en Macs con Apple silicon y macOS 15 o…
Por qué importaPara equipos que prototipan o despliegan modelos en portátiles Mac, reduce la dependencia de la nube en pruebas y ejecuciones locales. Las mejoras de…
AWS ha publicado TorchNeuron, una herramienta que permite trasladar aplicaciones de IA escritas en PyTorch al chip Trainium de Amazon. Según Amazon, basta con…
Por qué importaReduce una de las barreras que mantenían a los desarrolladores atados a las GPU de Nvidia, y da una alternativa de hardware y nube a quien construye…
Hugging Face anuncia que TorchNeuron, un plugin de PyTorch con un nuevo backend para los chips Trainium de AWS, llegará en beta pública el 20 de octubre de…
Por qué importaReduce la necesidad de forks específicos del modelo y de código propio de Neuron, lo que simplifica el mantenimiento de pipelines de entrenamiento y…
Hugging Face ha publicado el tercer artículo de su serie "Profiling in PyTorch" dedicado a la perfilación y optimización del mecanismo de atención en redes…
Por qué importaPara ingenieros y equipos de ML que optimizan modelos de transformers en producción, entender cómo perfilar y analizar cuellos de botella en atención…
Hugging Face publica la segunda parte de su serie 'Profiling in PyTorch', dedicada a profundizar en la optimización de capas lineales (nn.Linear) y…
Por qué importaLos directivos y equipos de ingeniería que construyen o despliegan modelos de IA en producción necesitan entender estos mecanismos internos para…
Hugging Face ha publicado el primer artículo de una serie educativa sobre cómo usar torch.profiler para analizar el rendimiento de modelos en PyTorch. El…
Por qué importaEl profiling es esencial para optimizar modelos de IA en producción, pero tiene una curva de aprendizaje pronunciada. Una guía accesible para…
Safetensors, formato de almacenamiento de pesos de modelos creado por Hugging Face, se ha incorporado a la PyTorch Foundation bajo la gobernanza de la Linux…
Por qué importaLa integración en la PyTorch Foundation proporciona estabilidad a largo plazo y gobernanza comunitaria neutral a un estándar clave que usados decenas…
AMD ha lanzado el AI Bundle dentro de AMD Software: Adrenalin Edition 26.1.1, un paquete que automatiza la instalación de entornos de IA en Windows. El bundle…
Por qué importaReduce significativamente la fricción técnica para que usuarios de PC con hardware AMD accedan a capacidades de IA local: entrenamiento de modelos…
