OpenAI añadirá marca de agua invisible al texto de ChatGPT y Codex en la UE
Hecho Qué ha ocurrido
OpenAI anunció que incorporará una marca de agua invisible llamada textGrain al texto generado por ChatGPT y Codex para usuarios seleccionados en la Unión Europea, en cumplimiento de la Ley de IA. El sistema, desarrollado con investigadores de Pensilvania y Yale, usa una clave secreta para detectar si un texto fue generado por IA. Pruebas internas mostraron que reemplazar el 10% de las palabras por sinónimos redujo la tasa de detección del 92% al 66%, y que textos cortos, respuestas matemáticas y traducciones son más difíciles de identificar.
Resumen generado mediante IA a partir de Ámbito Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una respuesta directa a exigencias regulatorias europeas y muestra las limitaciones técnicas actuales de la detección de contenido generado por IA, lo que afecta a la fiabilidad de este tipo de herramientas para empresas y educadores.
- Quién se ve afectado
- Usuarios de ChatGPT y Codex en la UE, empresas de cumplimiento normativo, instituciones educativas y investigadores de detección de IA.
- Qué puede cambiar
- El texto generado por estas herramientas en Europa llevará una marca detectable solo por sistemas autorizados, aunque su ausencia no garantiza autoría humana.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si Anthropic, Google y Meta amplían marcas similares globalmente, cómo evoluciona la precisión del detector ante ediciones de texto, y si reguladores europeos exigen acceso más amplio a estas herramientas de detección.
Recomendación Qué debería hacer una empresa
Las empresas que dependan de detectar contenido generado por IA en cumplimiento normativo deberían evaluar en los próximos 6 meses si pueden acceder al detector de OpenAI como organizaciones autorizadas, sin asumir que resolverá por completo el problema de atribución.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Ámbito Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMdetección de texto generado por IA OpenAIAnthropicUniversidad de PensilvaniaYale ChatGPTLey de IAmarca de aguaOpenAIUnión Europea
Forma parte de la historia OpenAI implementa marca de agua textGrain en ChatGPT por el AI Act (13 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
OpenAI activará marcas de agua en ChatGPT por defecto en la UE para cumplir con la AI Act
OpenAI anunció que marcará automáticamente por defecto los textos generados con ChatGPT en la Unión Europea, en cumplimiento de la AI Act. Fuera de la UE la…
Por qué importaEs el primer gran despliegue de marcado de contenido generado por IA obligado por regulación, y marca un precedente sobre cómo las empresas de IA…
OpenAI implantará marca de agua invisible textGrain en ChatGPT y Codex para cumplir la Ley de IA de la UE
OpenAI anunció el despliegue de textGrain, un sistema de marca de agua estadística invisible en el texto generado, para cumplir con la Ley de IA de la UE. Se…
Por qué importaMarca el inicio del cumplimiento práctico de la Ley de IA de la UE en materia de transparencia de contenido generado, con implicaciones para empresas…
OpenAI despliega la marca invisible textGrain en ChatGPT para textos generados en la UE
OpenAI ha empezado a usar textGrain, una técnica de marcado estadístico invisible en los textos generados por ChatGPT, para cumplir la normativa europea de…
Por qué importaEs el primer gran despliegue práctico de marcado de texto por IA en respuesta a la AI Act europea, lo que marca un precedente regulatorio y técnico…
OpenAI añadirá marca de agua invisible al texto de ChatGPT y Codex en la UE por la Ley de IA
OpenAI ha anunciado que incorporará una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea. La medida busca cumplir con las…
Por qué importaMarca un paso concreto de adaptación de un actor líder de IA generativa a la regulación europea, anticipando obligaciones que afectarán a todo el…