Investigación revela que revisores humanos de OpenAI leen conversaciones de usuarios de ChatGPT sin aviso claro
Hecho Qué ha ocurrido
Una investigación de 404 Media reveló 'Project Lily', un programa mediante el cual contratistas de OpenAI leen y evalúan conversaciones de usuarios con ChatGPT para mejorar el modelo. Los revisores leen el prompt original, resumen la intención del usuario, califican cuatro respuestas por conversación del 1 al 7 y marcan fragmentos concretos. OpenAI confirmó que aplica un filtro de privacidad previo, pero admitió que puede fallar y dejar pasar datos sensibles como información médica, legal o financiera. La opción que permite este uso de datos, 'Mejora el modelo para todos', viene activada por defecto y solo puede desactivarse para conversaciones futuras.
Resumen generado mediante IA a partir de Hipertextual. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Expone una brecha entre lo que los usuarios asumen sobre la privacidad de sus conversaciones con IA y la práctica real de revisión humana, con implicaciones legales y reputacionales para OpenAI. Para empresas que usan ChatGPT con datos de clientes o internos, es una señal de alerta sobre riesgo de exposición de información sensible.
- Quién se ve afectado
- Usuarios particulares de ChatGPT, empresas que manejan datos confidenciales en sus interacciones con el chatbot, y responsables de cumplimiento y privacidad.
- Qué puede cambiar
- Las organizaciones podrían reforzar políticas de uso de IA generativa exigiendo desactivar el entrenamiento con datos, o migrar a planes empresariales con garantías contractuales de privacidad.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si OpenAI actualiza su política de privacidad de forma explícita, si hay reacciones regulatorias (UE, FTC) y si otros proveedores (Google, Anthropic) enfrentan escrutinio similar sobre revisión humana de conversaciones.
Recomendación Qué debería hacer una empresa
Las empresas que usan ChatGPT con datos sensibles deberían auditar en los próximos 30 días qué configuraciones de privacidad tienen activadas y considerar planes empresariales con acuerdos de no entrenamiento.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Hipertextual. La referencia es siempre el artículo original.
Ver fuente original ↗LLM OpenAI ChatGPTOpenAIprivacidadProject Lilyrevisión humana
Forma parte de la historia Revisores humanos leen conversaciones de ChatGPT y Claude sin aviso claro (5 noticias, estado: alto impacto).
Tu opinión
0 comentarios
Relacionadas
Investigación revela que revisores humanos de OpenAI acceden a conversaciones reales de ChatGPT
404 Media publicó una investigación sobre Project Lily, un programa de OpenAI en el que cientos de trabajadores externos revisan conversaciones reales de…
Por qué importaConfirma que el entrenamiento de modelos conversacionales implica revisión humana de contenido potencialmente sensible, lo que plantea riesgos de…
Revisores humanos de OpenAI pueden leer conversaciones de ChatGPT con datos sensibles
Una investigación de 404 Media reveló Project Lily, un sistema mediante el cual contratistas humanos de OpenAI revisan y califican fragmentos de conversaciones…
Por qué importaExpone que la privacidad percibida por los usuarios en interacciones con chatbots no es absoluta, lo que tiene implicaciones legales y de confianza…
OpenAI y Anthropic emplean contratistas externos para revisar conversaciones de ChatGPT y Claude
OpenAI y Anthropic utilizan contratistas externos para revisar conversaciones de usuarios con sus chatbots, como parte del proceso de ajuste de las respuestas…
Por qué importaGenera preocupación sobre privacidad y confidencialidad de los datos que los usuarios comparten con estos asistentes, especialmente en contextos…
OpenAI emplea a cientos de revisores humanos para leer conversaciones reales de ChatGPT
Según una investigación de 404 Media basada en documentos internos filtrados, OpenAI contrata a cientos de trabajadores externos que leen conversaciones reales…
Por qué importaRevela una brecha entre la percepción de privacidad de los usuarios y la práctica real de las empresas de IA, lo que puede afectar la confianza y el…