OpenAI despliega la marca invisible textGrain en ChatGPT para textos generados en la UE
Hecho Qué ha ocurrido
OpenAI ha empezado a usar textGrain, una técnica de marcado estadístico invisible en los textos generados por ChatGPT, para cumplir la normativa europea de transparencia sobre contenidos de IA. La medida se aplica inicialmente solo en la Unión Europea y es similar a la que ya usa Anthropic desde agosto. OpenAI reconoce que la detección no es infalible: si se sustituye el 25% de las palabras por sinónimos, la tasa de acierto cae al 17%, y en textos de 200 tokens la detección correcta ronda el 80% con un 1% de falsos positivos.
Resumen generado mediante IA a partir de Xataka. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es el primer gran despliegue práctico de marcado de texto por IA en respuesta a la AI Act europea, lo que marca un precedente regulatorio y técnico para otros laboratorios. Las limitaciones reconocidas muestran que el marcado textual es mucho menos fiable que el de imagen o audio, lo que condiciona su utilidad real en cumplimiento normativo.
- Quién se ve afectado
- Empresas de contenidos, medios, educación y cualquier organización que use ChatGPT en la UE y deba justificar transparencia sobre contenido generado por IA.
- Qué puede cambiar
- Los textos generados por ChatGPT en la UE podrán, en teoría, ser identificados a posteriori como generados por IA, aunque la fiabilidad depende del tamaño del texto y de si ha sido editado.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Habrá que vigilar si OpenAI extiende textGrain fuera de la UE, si surgen herramientas de detección de terceros basadas en este patrón, y cómo evoluciona la precisión frente a ediciones humanas.
Recomendación Qué debería hacer una empresa
Las organizaciones que operen en la UE deberían evaluar en los próximos 6 meses sus políticas de divulgación de contenido generado por IA, sin depender exclusivamente de textGrain por su baja fiabilidad ante ediciones.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Xataka. La referencia es siempre el artículo original.
Ver fuente original ↗LLMmarca de agua textual OpenAIAnthropic AI ActChatGPTOpenAItextGrainUnión Europea
Forma parte de la historia OpenAI despliega marca de agua textGrain en ChatGPT por el AI Act (10 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
OpenAI añadirá marca de agua invisible al texto de ChatGPT y Codex en la UE por la Ley de IA
OpenAI ha anunciado que incorporará una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea. La medida busca cumplir con las…
Por qué importaMarca un paso concreto de adaptación de un actor líder de IA generativa a la regulación europea, anticipando obligaciones que afectarán a todo el…
OpenAI añadirá marcas de agua invisibles en textos de ChatGPT y Codex en la UE
OpenAI anunció que desplegará en las próximas semanas una tecnología llamada textGrain para marcar de forma invisible los textos generados por ChatGPT y Codex…
Por qué importaEs la primera gran implementación práctica de una obligación concreta del AI Act europeo por parte de un proveedor líder de IA generativa, lo que…
OpenAI implementará marcas de agua invisibles textGrain en ChatGPT y Codex en la UE
OpenAI añadirá en las próximas semanas una marca de agua invisible llamada textGrain en textos generados por ChatGPT y Codex en la UE, en cumplimiento de la AI…
Por qué importaEs la primera implementación práctica a escala de un gran proveedor de IA para cumplir con las obligaciones de transparencia de la AI Act europea…
OpenAI añadirá marca de agua invisible a textos de ChatGPT en la UE por la Ley de IA
OpenAI anunció el sistema textGrain, que añade una señal estadística invisible a los textos generados por ChatGPT y Codex para cumplir con la Ley de IA de la…
Por qué importaMarca un primer paso regulatorio concreto de cumplimiento del AI Act en contenido textual, pero expone límites técnicos y de acceso que limitan su…