Tecnología
RDMA
Sobre esta tecnología, IA para hoy ha analizado 2 noticias, procedentes de 2 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 4,0 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son IT, Ciencia, Operaciones. Aparece en 2 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Relacionadas
Nvidia ×2LLM ×1OpenAI ×1Microsoft ×1AWS ×1AMD ×1Oracle ×1inferencia distribuida ×1
Historias
Noticias
AWS describe una transferencia KV por push en vLLM que reduce la latencia de inferencia de LLM
AWS publicó un artículo técnico sobre un conector NIXL en modo push para vLLM, que traslada la coordinación de la transferencia del caché KV fuera de la ruta…
Por qué importaPara quien despliega inferencia de LLM a escala, el tiempo hasta el primer token y el coste por token dependen tanto de la infraestructura de…
NVIDIA Spectrum-X introduce MRC, protocolo de red para entrenamientos masivos de IA
NVIDIA ha presentado Multipath Reliable Connection (MRC), un protocolo de transporte RDMA desarrollado en colaboración con Microsoft, OpenAI, AMD, Broadcom e…
Por qué importaPara operadores de centros de datos masivos de IA (data centers con miles de GPUs), la estabilidad y eficiencia de la red es crítica: cualquier…