Brokers venden datos de conversaciones IA capturadas por extensiones maliciosas
Hecho Qué ha ocurrido
Data brokers están vendiendo acceso a datos sensibles capturados durante conversaciones con chatbots como ChatGPT, Gemini, Claude y DeepSeek, según un informe del experto Lee S Dryburgh proporcionado a The Register. Las extensiones de navegador que prometen VPN gratuito o bloqueo de anuncios interceptan silenciosamente prompts y respuestas, almacenándolas en bases de datos vectoriales accesibles por API. En una búsqueda de 205 consultas, Dryburgh encontró aproximadamente 490 prompts únicos de 435+ usuarios que incluían información médica real, datos HIPAA, estado migratorio, registros criminales y hasta conversaciones de menores, a pesar de que las empresas afirman que los datos están anonimizados.
Resumen generado mediante IA a partir de The Register AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Las conversaciones con IA están siendo monetizadas sin consentimiento verdadero, exponiendo información sensible de salud, legal e identidad. Para directivos, esto implica que tanto empleados como clientes que usan chatbots pueden tener sus datos comercializados, creando riesgos de cumplimiento normativo y de reputación.
- Quién se ve afectado
- Usuarios de chatbots, trabajadores remotos que comparten cuentas, profesionales sanitarios, inmigrantes indocumentados, y cualquier persona que paste datos sensibles en conversaciones de IA sin saber que está siendo capturada.
- Qué puede cambiar
- El riesgo de privacidad en las conversaciones con IA públicas se vuelve concreto y cuantificable: no es un riesgo teórico, sino datos verificables siendo vendidos. Las empresas de IA y los usuarios deben asumir que cualquier conversación puede ser capturada y comercializada, replanteando qué información es seguro compartir.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Reacciones normativas (especialmente GDPR y HIPAA); anuncios de plataformas IA sobre medidas anti-captura; litigios de usuarios afectados; cambios en políticas de términos de servicio de navegadores; adopción de soluciones locales o encriptadas de IA para evitar exposición.
Recomendación Qué debería hacer una empresa
Auditar en los próximos 3-6 meses qué datos sensibles (médicos, legales, financieros, de clientes) se están introduciendo en chatbots públicos. Establecer políticas claras para empleados y entrenarlos sobre qué no pegar en IA. Evaluar soluciones locales o privadas para datos críticos.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: The Register AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMvector databasebrowser extensions OpenAIGoogleAnthropicDeepSeek chatbotscumplimiento normativodata brokersdatos personalesprivacidadprotección de datosseguridad
Tu opinión
0 comentarios
Relacionadas
Anthropic detecta uso de Claude por un grupo vinculado a hutíes para desarrollar misiles
Anthropic informó que un grupo con sede en el norte de Yemen usó Claude para apoyar el desarrollo de cohetes guiados, un misil balístico de largo alcance y…
Por qué importaConfirma que los modelos de lenguaje avanzados pueden ser mal utilizados para fines de armamento militar, incluso sin lograr un resultado exitoso, lo…
OpenAI evalúa ralentizar el desarrollo de IA ante preocupaciones de seguridad, según Bloomberg
Según Bloomberg, Sam Altman ha comunicado a empleados de OpenAI que la compañía podría moderar el ritmo de desarrollo de IA, tras haber desacelerado ya algunos…
Por qué importaSi el líder del sector modera su ritmo por razones de seguridad, podría marcar un precedente que influya en la percepción regulatoria y en la…
OpenAI consulta al Congreso de EE.UU. sobre la legalidad de coordinar una ralentización de la IA con otros laboratorios
OpenAI ha preguntado a miembros del Congreso de EE.UU. si sería legal coordinar con otros laboratorios de IA una ralentización del desarrollo, según WIRED. La…
Por qué importaMuestra que los propios líderes del sector reconocen riesgos de seguridad graves y buscan cobertura legal para actuar colectivamente, lo que podría…
Anthropic detecta intentos de usar Claude para crear armas biológicas y destilación ilícita vinculados a China
Anthropic ha revelado que desarticuló varias operaciones maliciosas que intentaban usar su modelo Claude para actividades como destilación ilícita y desarrollo…
Por qué importaEvidencia riesgos de doble uso de modelos de IA avanzados en manos de actores malintencionados, y plantea la necesidad de controles de seguridad más…