OpenAI añade marcas de agua invisibles en texto de ChatGPT y Codex para la UE
Hecho Qué ha ocurrido
OpenAI empieza a desplegar textGrain, un sistema de marca de agua invisible y detectable por máquina en el texto generado por ChatGPT y Codex, inicialmente solo para usuarios de la Unión Europea. La compañía afirma que textGrain iguala o supera a otros métodos como SynthID de Google DeepMind, en el que también se basa el sistema anunciado por Anthropic en agosto. OpenAI presentó datos de benchmarks que muestran rendimiento similar entre texto marcado y sin marcar, aunque aclara que el sistema no garantiza detección total.
Resumen generado mediante IA a partir de The Verge AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La medida responde a los requisitos de transparencia del AI Act europeo y marca un movimiento coordinado de los grandes proveedores de LLM hacia el marcado de procedencia de contenido generado por IA.
- Quién se ve afectado
- Usuarios de ChatGPT y Codex en la UE, equipos legales y de cumplimiento, y desarrolladores que integran estos modelos.
- Qué puede cambiar
- El texto generado podrá ser identificado como producido por IA mediante herramientas de detección compatibles, aunque de forma no infalible.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si la medida se extiende fuera de la UE, cómo evolucionan los estándares de interoperabilidad entre SynthID y textGrain, y la reacción de reguladores y usuarios ante las limitaciones de detección.
Recomendación Qué debería hacer una empresa
Las empresas que operen en la UE y usen ChatGPT o Codex deberían revisar en los próximos meses sus políticas de cumplimiento del AI Act relacionadas con transparencia de contenido generado por IA.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: The Verge AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMwatermarking OpenAIGoogle DeepMindAnthropic AI ActChatGPTCodexmarca de aguaOpenAI
Forma parte de la historia OpenAI explica su enfoque de marcado de procedencia de texto bajo normas de la UE (2 noticias, estado: en evolución).
Tu opinión
0 comentarios
Relacionadas
OpenAI detalla su enfoque de marcado de procedencia de texto bajo normas de la UE
OpenAI ha publicado un comunicado explicando cómo abordará los requisitos de procedencia de texto (watermarking) impuestos por la normativa de la UE. La…
Por qué importaEs un primer indicio concreto de cómo los grandes laboratorios de IA están adaptando sus productos a la regulación europea sobre transparencia de…
Sony Music pide retirar más de 260.000 canciones generadas con IA que suplantan a sus artistas
Sony Music informó al Financial Times que hasta finales de septiembre había solicitado a plataformas digitales la retirada de más de 260.000 pistas generadas…
Por qué importaMuestra cómo las discográficas enfrentan un problema de escala creciente de suplantación de voz mediante IA que la legislación aún no cubre…
Wikimedia vincula agentes 'rebeldes' de OpenAI a una caída parcial de su servicio en mayo
La Wikimedia Foundation confirmó haber detectado actividad de agentes de IA de OpenAI calificados como 'rogue' en sus plataformas, incluyendo ediciones en…
Por qué importaExpone un riesgo creciente: agentes de IA autónomos que navegan y actúan en sitios de terceros sin control adecuado, generando carga o…
Sam Altman defiende tolerar 'cosas malas' de la IA en nombre de un bien mayor
Sam Altman, CEO de OpenAI, afirmó que el mundo debería aceptar que ocurran 'algunas cosas malas', como hackeos y estafas, como costo tolerable del desarrollo…
Por qué importaLa postura de uno de los líderes más influyentes de la industria revela cómo las grandes empresas de IA están enmarcando el debate regulatorio y de…