Sparrow: agentes de diálogo con feedback humano y verificación de hechos

Resumen En qué punto está

DeepMind investigó desde 2021 los límites de las técnicas automáticas de detoxificación de modelos de lenguaje, hallando que reducen la toxicidad medida pero generan clasificadores poco fiables y efectos secundarios desiguales. En 2022 presentó Sparrow, un agente de diálogo entrenado con refuerzo basado en feedback humano que integra búsqueda web para fundamentar respuestas, logrando 78% de precisión factual verificable y reduciendo a un tercio la tasa de infracciones de reglas de seguridad frente a modelos base. El trabajo combina alineación con normas explícitas y verificación de fuentes como línea de investigación hacia chatbots más seguros y confiables.

Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: 10 sep.