Investigadores extraen libros completos de modelos IA comerciales como Claude y Gemini
Hecho Qué ha ocurrido
Investigadores de Stanford y Yale han demostrado que modelos IA comerciales en producción —Claude 3.7 Sonnet, GPT-4.1, Gemini 2.5 Pro y Grok 3— pueden reproducir fragmentos sustanciales de contenido protegido por derechos de autor si se les solicita con prompts específicos. El equipo logró extraer entre el 70 % y el 95 % de «Harry Potter y la Piedra Filosofal» de estos modelos, dependiendo del sistema y técnicas de jailbreak empleadas. Los resultados, comunicados a los fabricantes bajo ventana de divulgación responsable, plantean cuestiones sobre memorización de datos de entrenamiento y validez de defensas de fair use.
Resumen generado mediante IA a partir de The Register AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Este hallazgo es crítico en los más de 60 litigios en curso contra fabricantes de IA por uso no autorizado de contenido protegido. Demuestra que los guardrails de seguridad no impiden completamente la reproducción textual de obras copyrighted, lo que debilita argumentos de transformación y puede afectar desenlaces legales y regulatorios sobre entrenamiento lícito.
- Quién se ve afectado
- Empresas fabricantes de modelos IA (Anthropic, OpenAI, Google, xAI), editoriales y titulares de derechos de autor, y defensores de privacidad de datos.
- Qué puede cambiar
- Si los tribunales consideran que la reproducción textual de obras protegidas invalida la defensa de fair use, los fabricantes de IA podrían verse obligados a implementar filtros más estrictos, rediseñar entrenamientos con datos explícitamente licenciados, o enfrentar mayores daños en litigios. Las expectativas sobre transparencia de datos de entrenamiento podrían cambiar regulatoriamente.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Evolución de los fallos judiciales en casos de copyright contra OpenAI, Google, Anthropic y otros. Cambios en políticas de guardrails y divulgación de corpora de entrenamiento. Reacciones de reguladores europeos (RGPD, AI Act) y estadounidenses. Adopción de técnicas de unlearning o entrenamientos sintéticos como alternativa.
Recomendación Qué debería hacer una empresa
Las empresas que usan modelos IA en producción deberían documentar y auditar el origen de datos en sus entrenamientos internos, y evaluar en los próximos 6-12 meses el riesgo legal de reproducción de contenido protegido en sus pipelines, especialmente si planean expansión en sectores regulados (editorial, medios, academia).
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Register AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMjailbreakextracción de datos AnthropicOpenAIGoogle DeepMindxAIMeta copyright derechos de autor fair use memorización modelos comerciales
Relacionadas
Investigadores descubren método para extraer razonamientos ocultos de Claude, GPT y Gemini
Investigadores de universidades alemanas y centros de seguridad han identificado una técnica para extraer los "razonamientos ocultos" que utilizan modelos de…
Por qué importaEste descubrimiento expone un riesgo de seguridad crítico en la infraestructura de APIs de los líderes del mercado y amplifica las preocupaciones…
Google denuncia intentos de clonar Gemini mediante más de 100.000 consultas
Google ha anunciado que actores con motivaciones comerciales han intentado extraer conocimiento de su modelo Gemini realizando más de 100.000 consultas, muchas…
Por qué importaEvidencia que los modelos de IA líderes son vulnerables a ataques de extracción de conocimiento, lo que reduce las barreras de entrada para…
Investigadores extraen razonamientos ocultos de modelos propietarios mediante trazas cifradas
Investigadores descubrieron una vulnerabilidad que permitía extraer las cadenas de razonamiento ocultas (chain-of-thought) cifradas devueltas por APIs de…
Por qué importaEsta vulnerabilidad expone cómo el "pensamiento" de los modelos más avanzados puede ser interceptado y reutilizado, comprometiendo tanto la…
Cerca de 800 artistas denuncian a OpenAI, Google y Meta por usar obras sin autorización
Aproximadamente 800 artistas, actores, músicos y escritores estadounidenses, entre ellos Scarlett Johansson, Cate Blanchett, R.E.M., Cyndi Lauper y Vince…
Por qué importaLa disputa sobre el uso de contenido creativo en entrenamientos de IA es una de las principales fricciones legales y éticas del sector. Las demandas…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.