OpenAI, Anthropic y Google usan revisores humanos para evaluar chats de sus chatbots de IA
Hecho Qué ha ocurrido
Una investigación de 404 Media reveló que OpenAI opera un programa llamado Project Lily, en el que contratistas externos revisan prompts y respuestas de ChatGPT calificándolas en una escala del 1 al 7. Anthropic y Google confirmaron mecanismos similares de revisión humana para Claude y Gemini, con filtros previos para eliminar información personal, aunque no infalibles.
Resumen generado mediante IA a partir de ITSitio. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Expone que las conversaciones con chatbots empresariales pueden ser leídas por personas, lo que afecta la confidencialidad de datos sensibles compartidos por usuarios y empleados. Las empresas que integran estos chatbots deben conocer las políticas de retención y revisión de datos antes de usarlos con información corporativa.
- Quién se ve afectado
- Usuarios finales de chatbots, departamentos de compliance y ciberseguridad, y empresas que manejan datos sensibles a través de estas herramientas.
- Qué puede cambiar
- Aumenta la presión para que empresas y usuarios configuren explícitamente las opciones de privacidad y opt-out en estas plataformas, y que las áreas legales revisen los términos de servicio antes de adoptar chatbots.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si surgen filtraciones de datos derivadas de estos procesos de revisión, cambios regulatorios sobre privacidad en IA conversacional, y si las empresas de IA amplían la transparencia sobre estos programas.
Recomendación Qué debería hacer una empresa
Las empresas que usan ChatGPT, Claude o Gemini para procesar información sensible deberían revisar en los próximos 30 días las configuraciones de privacidad y desactivar el uso de conversaciones para entrenamiento cuando corresponda.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: ITSitio. La referencia es siempre el artículo original.
Ver fuente original ↗LLMchatbots OpenAIAnthropicGoogle ChatGPT Claude Gemini privacidad revisión humana
Relacionadas
Investigación revela que revisores humanos de OpenAI leen conversaciones de usuarios de ChatGPT sin aviso claro
Una investigación de 404 Media reveló 'Project Lily', un programa mediante el cual contratistas de OpenAI leen y evalúan conversaciones de usuarios con ChatGPT…
Por qué importaExpone una brecha entre lo que los usuarios asumen sobre la privacidad de sus conversaciones con IA y la práctica real de revisión humana, con…
Investigación revela que revisores humanos de OpenAI acceden a conversaciones reales de ChatGPT
404 Media publicó una investigación sobre Project Lily, un programa de OpenAI en el que cientos de trabajadores externos revisan conversaciones reales de…
Por qué importaConfirma que el entrenamiento de modelos conversacionales implica revisión humana de contenido potencialmente sensible, lo que plantea riesgos de…
OpenAI y Anthropic emplean contratistas externos para revisar conversaciones de ChatGPT y Claude
OpenAI y Anthropic utilizan contratistas externos para revisar conversaciones de usuarios con sus chatbots, como parte del proceso de ajuste de las respuestas…
Por qué importaGenera preocupación sobre privacidad y confidencialidad de los datos que los usuarios comparten con estos asistentes, especialmente en contextos…
Revisores humanos de OpenAI pueden leer conversaciones de ChatGPT con datos sensibles
Una investigación de 404 Media reveló Project Lily, un sistema mediante el cual contratistas humanos de OpenAI revisan y califican fragmentos de conversaciones…
Por qué importaExpone que la privacidad percibida por los usuarios en interacciones con chatbots no es absoluta, lo que tiene implicaciones legales y de confianza…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.