AWS patrón de compresión de contexto para reducir costos de RAG
Línea temporal
-
AWS muestra cómo reducir costos de RAG con compresión de contexto inteligente
AWS ha publicado un patrón de arquitectura para sistemas RAG en Amazon Bedrock que utiliza un modelo más pequeño (Claude Haiku) para filtrar fragmentos de contexto recuperados antes de pasarlos al modelo principal…