Noticias etiquetadas con «confiabilidad»
8 noticias
xAI reportó un fallo técnico en Grok Lite que causó que el chatbot generase respuestas sin sentido a usuarios entre el miércoles y jueves. Un usuario recibió…
Por qué importaAunque fue un fallo temporal y aislado, demuestra puntos de fragilidad en sistemas de IA en producción que afectan la confianza del usuario. Para…
Allen AI (Ai2) ha desarrollado Shippy, un agente de IA especializado en vigilancia marítima en tiempo real integrado con la plataforma Skylight, que opera en…
Por qué importaPara dominios de alto riesgo como defensa marítima y conservación oceánica, un error del agente puede costar recursos significativos y poner en…
Microsoft Research ha publicado un artículo argumentando que los sistemas de IA modernos funcionan porque extienden estructuras cognitivas ya presentes en el…
Por qué importaEste enfoque ayuda a explicar tanto las capacidades actuales de la IA (como la generación de texto fluido) como sus limitaciones estructurales, lo…
Una verificadora de datos de WIRED examina la capacidad de los modelos de IA para verificar información. Según su análisis y estudios citados, las tasas de…
Por qué importaLa verificación de hechos es función crítica en medios y empresas que generan contenido; si los modelos de IA fallan sistemáticamente en tareas de…
Microsoft Research ha publicado un análisis sobre su paper "LLMs Corrupt Your Documents When You Delegate" que evalúa cómo preservan los modelos actuales la…
Por qué importaEl hallazgo relevante es que el desempeño en benchmarks cortos no garantiza confiabilidad en tareas delegadas complejas y prolongadas, un patrón…
El periodista Ronan Farrow y Andrew Marantz publicaron en The New Yorker un reportaje de 17.000 palabras sobre Sam Altman, CEO de OpenAI, que documenta…
Por qué importaLa confiabilidad en el liderazgo de OpenAI es crítica dado que la empresa desarrolla tecnologías de IA de impacto global y fue fundada como…
Microsoft Research ha publicado AgentRx, un framework de código abierto diseñado para identificar automáticamente el punto crítico de fallo en trayectorias de…
Por qué importaA medida que los agentes de IA se despliegan en sistemas autónomos críticos (gestión de incidentes en cloud, workflows multi-paso), la capacidad de…
Shuhui Qu, investigadora en la Universidad de Stanford, ha publicado un artículo sobre Planificación Categorial Bidireccional con Auto-Consulta, un método que…
Por qué importaLas alucinaciones siguen siendo un problema crítico en los LLMs en producción a pesar de años de promesas de mitigación. Este enfoque aborda la raíz…
