AWS documenta cómo compartir una GPU A10G entre dos pods de Kubernetes con NVIDIA Run:ai

Hecho Qué ha ocurrido
AWS publicó un tutorial para ejecutar dos pods de Kubernetes con límites de memoria GPU de 8 GiB cada uno en una misma GPU NVIDIA A10G de una instancia g5.xlarge en Amazon EKS, usando NVIDIA Run:ai GPU Fractioning. En la prueba, cada pod asignó 6 GiB y una asignación de 9 GiB fue rechazada. El texto indica que el enfoque requiere comprobaciones de compatibilidad y que la prueba se limitó a memoria, no a aislamiento de fallos ni rendimiento de cómputo.
Resumen generado mediante IA a partir de AWS Machine Learning Blog (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Permite a equipos que comparten GPU sin MIG imponer límites de memoria por pod en Kubernetes, lo que puede reducir colas en notebooks y pruebas de modelos. El propio artículo advierte de que no implica ganancia de rendimiento ni reducción universal de costes.
- Quién se ve afectado
- Equipos de plataforma y MLOps que gestionan clústeres de Kubernetes con GPU compartida.
- Qué puede cambiar
- Podría facilitar que varios equipos compartan una GPU en cargas pequeñas (notebooks, evaluaciones, inferencia ligera) sin esperar a que la GPU esté libre, siempre con pruebas previas de latencia bajo carga.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Compatibilidad del operador con drivers R615 o posteriores en imágenes de proveedores gestionados y la evolución de las alternativas de Amazon EKS (MIG, time-slicing, DRA).
Recomendación Qué debería hacer una empresa
Si su equipo comparte GPUs sin MIG, evaluar en un entorno de pruebas en los próximos 3 meses si el límite de memoria por pod resuelve las colas, midiendo latencia bajo carga concurrente.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: AWS Machine Learning Blog (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗KubernetesGPU sharingMPS AWSNVIDIA A10G Amazon EKS GPU Kubernetes NVIDIA Run:ai
Relacionadas
AWS publica arquitectura de referencia para compartir clústeres GPU de SageMaker HyperPod entre equipos
AWS presenta en su blog de Machine Learning una arquitectura de referencia para que varios equipos compartan un mismo clúster de Amazon SageMaker HyperPod…
Por qué importaOfrece a las empresas un modelo práctico para rentabilizar infraestructura GPU cara compartiéndola entre varios equipos sin perder aislamiento ni…
AWS y NVIDIA amplían colaboración con más de 1 millón de GPUs Blackwell en 2026
AWS y NVIDIA anunciaron en GTC 2026 una expansión de su colaboración con nuevas integraciones tecnológicas. AWS desplegaría más de 1 millón de GPUs NVIDIA…
Por qué importaEsta profundización de la colaboración de 15 años refuerza la capacidad de AWS para ejecutar cargas de IA en producción a escala empresarial…
NVIDIA dona gestor de recursos GPU a Kubernetes para infraestructura de IA empresarial
NVIDIA ha donado el controlador de asignación dinámica de recursos (DRA) para GPUs a la Cloud Native Computing Foundation (CNCF), trasladando su gobernanza a…
Por qué importaLa mayoría de empresas ejecutan cargas de trabajo de IA sobre Kubernetes, por lo que estandarizar y abrir la gestión de recursos GPU reduce la…
AWS añade a SageMaker Inference la partición de GPU con MIG para alojar varios modelos en una misma GPU
AWS anuncia que Amazon SageMaker Inference admite particionar GPUs con NVIDIA Multi-Instance GPU (MIG), que divide una GPU física en particiones aisladas por…
Por qué importaPermite desplegar más modelos que GPUs físicas con aislamiento de memoria y rendimiento, y elegir una fracción de GPU en lugar de una completa, lo…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



