Noticias etiquetadas con «SageMaker HyperPod»
14 noticias
AWS describe en su blog el ajuste fino de GPT-OSS-20B en Amazon SageMaker HyperPod para que razone en francés, alemán, español e italiano. El modelo base…
Por qué importaLas empresas que despliegan modelos de razonamiento para usuarios no angloparlantes necesitan que el modelo piense y responda en su idioma. El…
AWS presenta en su blog de Machine Learning una arquitectura de referencia para que varios equipos compartan un mismo clúster de Amazon SageMaker HyperPod…
Por qué importaOfrece a las empresas un modelo práctico para rentabilizar infraestructura GPU cara compartiéndola entre varios equipos sin perder aislamiento ni…
AWS publica una guía técnica para ejecutar SkyRL, un framework de RL de código abierto, sobre SageMaker HyperPod para post-entrenar un modelo de…
Por qué importaMuestra un patrón reproducible de infraestructura para entrenamiento de RL a gran escala en modelos multimodales, relevante para equipos de ML que…
AWS describe una arquitectura que combina Amazon SageMaker HyperPod con Cloud Native Qumulo y su Cloud Data Fabric para entrenar modelos de IA con cómputo en…
Por qué importaElimina la disyuntiva entre replicar petabytes de datos entre regiones o aceptar cuellos de botella de latencia, permitiendo a las empresas…
AWS lanzó soporte de model caching en Amazon SageMaker HyperPod para inferencia, que precarga pesos de modelos e imágenes de contenedor en almacenamiento NVMe…
Por qué importaPara empresas que despliegan LLMs grandes en producción, los tiempos de arranque en frío limitan la capacidad de autoescalado real ante picos de…
Alibaba lanzó el 12 de agosto de 2026 Qwen3.8-2.4T-A95B, un modelo de pesos abiertos con 2,4 billones de parámetros totales (95.000 millones activados por…
Por qué importaEs la primera vez que un modelo de la clase Qwen-Max se libera en pesos abiertos, lo que da a las empresas una alternativa autoalojada frente a APIs…
Pathway ha desarrollado BDH (Baby Dragon Hatchling), una arquitectura post-transformer inspirada en el cerebro que razona en espacio latente sin generar tokens…
Por qué importaSi se confirma su eficiencia y capacidad de generalización, podría reducir drásticamente los costes de inferencia en tareas de razonamiento respecto…
AWS ha publicado HyperPod InstantStart, un control plane open source que combina Amazon EKS con las capacidades gestionadas de SageMaker HyperPod. Permite…
Por qué importaReduce la fricción operativa de gestionar infraestructura de entrenamiento de modelos a gran escala, un cuello de botella habitual para equipos de…
Amazon anuncia nuevas capacidades de Ray en SageMaker HyperPod que integran el framework de código abierto Ray con la infraestructura de Amazon EKS. Los…
Por qué importaSimplifica significativamente la configuración y operación de cargas distribuidas para entrenamiento e inferencia de modelos, eliminando tareas…
Moonshot AI publicó el 27 de julio de 2026 Kimi K3, un modelo de código abierto con 2,8 billones de parámetros basado en arquitectura Mixture of Experts que…
Por qué importaLa disponibilidad de modelos de código abierto de clase frontera con capacidades avanzadas permite a las organizaciones autohospedar sistemas IA…
AWS publica cómo implementar Disaggregated Prefill and Decode (DPD) con vLLM en SageMaker HyperPod, una técnica que separa el procesamiento de prompts largos…
Por qué importaLas empresas que despliegan LLMs a escala enfrentan cuellos de botella cuando prompts largos bloquean la generación de tokens en otros usuarios. DPD…
AWS ha publicado cinco nuevas capacidades para SageMaker HyperPod Inference: captura de datos en tres niveles (endpoint, balanceador de carga, pod de modelo)…
Por qué importaPara equipos que despliegan grandes modelos de IA en producción, estas mejoras reducen fricción operativa (eliminar pre-staging de pesos, acelerar…
AWS publicó una guía técnica para desplegar una infraestructura de refuerzo multi-turno (multi-turn RL) usando Amazon Nova Forge en SageMaker HyperPod. La…
Por qué importaPermite entrenar agentes que ejecuten flujos multi-paso complejos (consulta de bases de datos, llamadas API, recuperación de fallos), algo que RLHF…
TGS, proveedor de datos geocientíficos para la industria energética, redujo el tiempo de entrenamiento de sus modelos de fundación basados en Vision…
Por qué importaPara empresas de ciencia e ingeniería con cargas computacionales intensivas, esta arquitectura demuestra cómo optimizar infraestructura cloud para…
