OpenAI añadirá marcas de agua invisibles a textos de ChatGPT y Codex en la UE
Hecho Qué ha ocurrido
OpenAI confirmó que implementará marcas de agua invisibles en los textos generados por ChatGPT y Codex mediante una técnica llamada textGrain, que añade una señal estadística imperceptible en la elección de palabras. La medida se activará por defecto en países del Espacio Económico Europeo para cumplir con el Reglamento de IA de la UE, en las próximas semanas. El detector asociado solo estará disponible para investigadores y organizaciones, no para el público, y su fiabilidad baja drásticamente con textos editados: de 92% a 17% de detección tras sustituir un 25% de palabras.
Resumen generado mediante IA a partir de Hipertextual. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es el primer gran proveedor de LLM que implementa marcado de procedencia textual por obligación regulatoria europea, lo que marca un precedente de cumplimiento normativo para toda la industria. Sin embargo, su baja fiabilidad ante ediciones limita su utilidad real como herramienta de detección de contenido generado por IA.
- Quién se ve afectado
- Empresas de medios, educación, marketing de contenidos y cualquier organización que use ChatGPT o Codex en la UE sujeta al Reglamento de IA.
- Qué puede cambiar
- Los textos generados por ChatGPT y Codex en la UE llevarán una firma técnica invisible, aunque sin acceso público al detector, por lo que en la práctica no cambiará la capacidad de verificación de los usuarios.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si surgen herramientas de terceros que afirmen detectar o 'humanizar' estos textos, si la Comisión Europea exige mayor transparencia sobre el detector, y si otros proveedores de IA generativa siguen el mismo camino que OpenAI y Anthropic.
Recomendación Qué debería hacer una empresa
Las empresas que usan la API de OpenAI y deban cumplir obligaciones de transparencia en la UE deberían evaluar activar el marcado en los próximos meses, aunque sin depender de él como garantía de detección.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Hipertextual. La referencia es siempre el artículo original.
Ver fuente original ↗LLMmarca de aguadetección de contenido generado por IA OpenAIAnthropic ChatGPTCodexmarca de aguaOpenAIUnión Europea
Forma parte de la historia OpenAI explica su enfoque de marcado de procedencia de texto bajo normas de la UE (4 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
OpenAI añadirá marca de agua invisible a textos de ChatGPT y Codex en la UE
OpenAI implementará un sistema de marca de agua invisible, llamado textGrain, en textos generados por ChatGPT y Codex en la UE para cumplir con el AI Act…
Por qué importaMarca un paso concreto de cumplimiento normativo del AI Act que podría extenderse a otras jurisdicciones y presionar a competidores como Anthropic…
OpenAI añade marcas de agua invisibles en texto de ChatGPT y Codex para la UE
OpenAI empieza a desplegar textGrain, un sistema de marca de agua invisible y detectable por máquina en el texto generado por ChatGPT y Codex, inicialmente…
Por qué importaLa medida responde a los requisitos de transparencia del AI Act europeo y marca un movimiento coordinado de los grandes proveedores de LLM hacia el…
OpenAI detalla su enfoque de marcado de procedencia de texto bajo normas de la UE
OpenAI ha publicado un comunicado explicando cómo abordará los requisitos de procedencia de texto (watermarking) impuestos por la normativa de la UE. La…
Por qué importaEs un primer indicio concreto de cómo los grandes laboratorios de IA están adaptando sus productos a la regulación europea sobre transparencia de…
Sony Music pide retirar más de 260.000 canciones generadas con IA que suplantan a sus artistas
Sony Music informó al Financial Times que hasta finales de septiembre había solicitado a plataformas digitales la retirada de más de 260.000 pistas generadas…
Por qué importaMuestra cómo las discográficas enfrentan un problema de escala creciente de suplantación de voz mediante IA que la legislación aún no cubre…