OpenAI añadirá marca de agua invisible a textos de ChatGPT y Codex en la UE
Hecho Qué ha ocurrido
OpenAI implementará un sistema de marca de agua invisible, llamado textGrain, en textos generados por ChatGPT y Codex en la UE para cumplir con el AI Act, vigente desde agosto. La técnica ajusta sutilmente la elección de palabras del modelo, es detectable solo con una clave secreta y no identifica al usuario. Pruebas internas muestran que reemplazar el 10% de palabras por sinónimos reduce la detección del 92% al 66%. El acceso al detector se limita por ahora a investigadores y organizaciones autorizadas.
Resumen generado mediante IA a partir de TechCrunch AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Marca un paso concreto de cumplimiento normativo del AI Act que podría extenderse a otras jurisdicciones y presionar a competidores como Anthropic, que ya aplica marcado global.
- Quién se ve afectado
- Usuarios de ChatGPT y Codex en la UE, desarrolladores que usan la API de OpenAI, y empresas de contenido y detección de texto generado por IA.
- Qué puede cambiar
- El contenido generado en la UE llevará una firma técnica detectable que podría usarse para verificar procedencia, aunque es fácilmente eludible mediante edición.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si la UE exige ampliar el acceso al detector más allá de investigadores, si otras empresas de IA siguen el ejemplo, y si Anthropic o Google ajustan sus propias políticas de marcado.
Recomendación Qué debería hacer una empresa
Las empresas que operan en la UE con contenido generado por IA deberían revisar sus políticas de divulgación de contenido sintético en los próximos 3-6 meses ante el endurecimiento regulatorio del AI Act.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: TechCrunch AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMwatermarkingdetección de texto generado por IA OpenAIAnthropicUniversidad de PensilvaniaYale AI ActChatGPTmarca de aguaOpenAIUnión Europea
Forma parte de la historia OpenAI explica su enfoque de marcado de procedencia de texto bajo normas de la UE (4 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
OpenAI añadirá marcas de agua invisibles a textos de ChatGPT y Codex en la UE
OpenAI confirmó que implementará marcas de agua invisibles en los textos generados por ChatGPT y Codex mediante una técnica llamada textGrain, que añade una…
Por qué importaEs el primer gran proveedor de LLM que implementa marcado de procedencia textual por obligación regulatoria europea, lo que marca un precedente de…
OpenAI añade marcas de agua invisibles en texto de ChatGPT y Codex para la UE
OpenAI empieza a desplegar textGrain, un sistema de marca de agua invisible y detectable por máquina en el texto generado por ChatGPT y Codex, inicialmente…
Por qué importaLa medida responde a los requisitos de transparencia del AI Act europeo y marca un movimiento coordinado de los grandes proveedores de LLM hacia el…
OpenAI detalla su enfoque de marcado de procedencia de texto bajo normas de la UE
OpenAI ha publicado un comunicado explicando cómo abordará los requisitos de procedencia de texto (watermarking) impuestos por la normativa de la UE. La…
Por qué importaEs un primer indicio concreto de cómo los grandes laboratorios de IA están adaptando sus productos a la regulación europea sobre transparencia de…
Sony Music pide retirar más de 260.000 canciones generadas con IA que suplantan a sus artistas
Sony Music informó al Financial Times que hasta finales de septiembre había solicitado a plataformas digitales la retirada de más de 260.000 pistas generadas…
Por qué importaMuestra cómo las discográficas enfrentan un problema de escala creciente de suplantación de voz mediante IA que la legislación aún no cubre…