Amazon EKS: noticias de IA

AWS publica una guía para desplegar el modelo Nemotron 3.5 Super VL de NVIDIA en Amazon EKS y SageMaker HyperPod

AWS publicó un artículo técnico sobre el despliegue de Nemotron 3.5 Super VL, un modelo multimodal de NVIDIA de 120.000 millones de parámetros totales (12.000…

Por qué importaOfrece una referencia concreta para equipos que quieran alojar un modelo abierto multimodal en su propia infraestructura de AWS, con criterios para…

Impacto bajo Fiabilidad una fuente fiable AWS Machine Learning Blog

Herramientas y productos 12 oct

AWS explica cómo desplegar un LLM en dos nodos GPU con prefill y decode separados en EKS

AWS publica una guía para desplegar un modelo de lenguaje grande en dos nodos GPU de Amazon EKS usando los contenedores de aprendizaje profundo de Ray LLM, con…

Por qué importaPara equipos que sirven modelos grandes o necesitan más rendimiento, la separación de prefill y decode puede mejorar la latencia y el escalado, pero…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog

Herramientas y productos 19 feb

Union.ai 2.0 lanza orquestación empresarial de flujos IA en Amazon EKS

Union.ai 2.0, construido sobre Flyte (originalmente de Lyft, ahora proyecto de la Linux Foundation), ha lanzado un servicio de orquestación empresarial para…

Por qué importaCierra un hueco real en producción: pasar modelos de laptop a clúster en Kubernetes ha sido históricamente frágil y requería recodificar pipelines…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog