Investigación revela que revisores humanos de OpenAI acceden a conversaciones reales de ChatGPT
Hecho Qué ha ocurrido
404 Media publicó una investigación sobre Project Lily, un programa de OpenAI en el que cientos de trabajadores externos revisan conversaciones reales de ChatGPT para evaluar y corregir respuestas del modelo. Los revisores no ven el nombre de usuario, pero pueden acceder a conversaciones completas y datos personales que el sistema Privacy Filter no logró eliminar. OpenAI reconoce públicamente que usa conversaciones para entrenar modelos salvo que el usuario lo desactive.
Resumen generado mediante IA a partir de 20minutos Tecnología. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Confirma que el entrenamiento de modelos conversacionales implica revisión humana de contenido potencialmente sensible, lo que plantea riesgos de privacidad para empresas y particulares que usan ChatGPT con información confidencial.
- Quién se ve afectado
- Usuarios particulares y empleados que usan ChatGPT para tareas profesionales o consultas personales sensibles.
- Qué puede cambiar
- Aumenta la presión para que usuarios y empresas revisen su configuración de privacidad y eviten introducir datos sensibles en chats no protegidos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Posible reacción regulatoria en materia de privacidad, respuesta oficial de OpenAI y si otras empresas de IA revelan prácticas similares de revisión humana.
Recomendación Qué debería hacer una empresa
Las empresas deberían establecer en el próximo trimestre políticas internas que prohíban introducir datos confidenciales en ChatGPT sin desactivar el entrenamiento del modelo o usar chats temporales.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: 20minutos Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLM OpenAI404 Media ChatGPTOpenAIprivacidadProject Lily
Forma parte de la historia Revisores humanos leen conversaciones de ChatGPT y Claude sin aviso claro (5 noticias, estado: alto impacto).
Tu opinión
0 comentarios
Relacionadas
Revisores humanos de OpenAI pueden leer conversaciones de ChatGPT con datos sensibles
Una investigación de 404 Media reveló Project Lily, un sistema mediante el cual contratistas humanos de OpenAI revisan y califican fragmentos de conversaciones…
Por qué importaExpone que la privacidad percibida por los usuarios en interacciones con chatbots no es absoluta, lo que tiene implicaciones legales y de confianza…
OpenAI y Anthropic emplean contratistas externos para revisar conversaciones de ChatGPT y Claude
OpenAI y Anthropic utilizan contratistas externos para revisar conversaciones de usuarios con sus chatbots, como parte del proceso de ajuste de las respuestas…
Por qué importaGenera preocupación sobre privacidad y confidencialidad de los datos que los usuarios comparten con estos asistentes, especialmente en contextos…
Investigación revela que revisores humanos de OpenAI leen conversaciones de usuarios de ChatGPT sin aviso claro
Una investigación de 404 Media reveló 'Project Lily', un programa mediante el cual contratistas de OpenAI leen y evalúan conversaciones de usuarios con ChatGPT…
Por qué importaExpone una brecha entre lo que los usuarios asumen sobre la privacidad de sus conversaciones con IA y la práctica real de revisión humana, con…
OpenAI emplea a cientos de revisores humanos para leer conversaciones reales de ChatGPT
Según una investigación de 404 Media basada en documentos internos filtrados, OpenAI contrata a cientos de trabajadores externos que leen conversaciones reales…
Por qué importaRevela una brecha entre la percepción de privacidad de los usuarios y la práctica real de las empresas de IA, lo que puede afectar la confianza y el…