Ir al contenido
IA para hoy

supervisión humana

Noticias etiquetadas con «supervisión humana»

5 noticias

Filtrar
Investigación

Investigadores de Hugging Face alertan que el diseño actual de agentes expulsa al humano del bucle de supervisión

Un trío de investigadores de ética en IA (Avijit Ghosh y Margaret Mitchell de Hugging Face, y Samir Passi) publicó un paper en arXiv el 6 de septiembre…

Por qué importaLas organizaciones que despliegan agentes autónomos asumen que la revisión humana es una salvaguarda real, pero este análisis sugiere que ese control…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 IEEE Spectrum AI
Investigación

Estudio: los agentes de IA proponen más soluciones pero los humanos siguen decidiendo en el desarrollo de modelos

Un equipo vinculado a la Universidad de Fudan analizó 769 registros de tareas de 56 participantes durante la construcción de su propio modelo, Atria Dawn…

Por qué importaEl estudio matiza el debate sobre autonomía creciente de la IA en investigación, mostrando que más actividad de agentes no equivale a más poder de…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 The Decoder
Regulación y ética

OpenAI publica informe sobre 'desalineación' en sus modelos y el límite de la supervisión humana

OpenAI publicó un sistema para comunicar casos de 'desalineación', comportamientos en los que un modelo se aparta de instrucciones o realiza acciones no…

Por qué importaA medida que los agentes de IA ejecutan más tareas de forma autónoma, la capacidad humana de revisar cada acción se vuelve inviable, lo que obliga a…

Impacto medio Fiabilidad declaración interesada 20minutos Tecnología
Regulación y ética

CNMV advierte sobre fallos de IA en análisis de inversión: alucinaciones y datos desactualizados

La CNMV publica un estudio que evalúa cuatro modelos de lenguaje (ChatGPT, Gemini, DeepSeek y Perplexity) en tareas de análisis financiero y detección de…

Por qué importaLos asesores de inversión, gestores de patrimonios y plataformas de trading automático deben conocer estas limitaciones para evitar decisiones…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 Business Insider España
Herramientas y productos

AWS publica patrones de supervisión humana para agentes IA en sanidad

AWS ha publicado una guía técnica con cuatro métodos prácticos para implementar supervisión humana (human-in-the-loop) en flujos de trabajo con agentes IA en…

Por qué importaLa supervisión humana es crítica en sanidad para mantener la seguridad del paciente, cumplir normativas de auditoría y proteger datos sensibles…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 AWS Machine Learning Blog