Tecnología
detección de texto generado por IA
Herramientas que estiman si un texto ha sido generado total o parcialmente por modelos de lenguaje, mediante patrones estadísticos o estructurales, o mediante marcas de agua incorporadas por el proveedor del modelo. Se usan en edición, educación, plataformas y control de contenidos.
Sobre esta tecnología, IA para hoy ha analizado 11 noticias, procedentes de 8 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 3,1 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Legal, Marketing, Ciencia. Aparece en 8 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Análisis Qué significa para una empresa
- Oportunidades
- Permiten a editoriales, plataformas y organizaciones cribar contenidos y aplicar sus normas de autoría, y las marcas de agua podrían facilitar el cumplimiento de la normativa europea de IA. Las certificaciones de autoría humana empiezan a crear un nicho de mercado.
- Riesgos
- La fiabilidad es limitada: hay falsos positivos documentados, las estimaciones de porcentaje no prueban autoría y los textos cortos o reescritos con sinónimos reducen mucho la detección. Su uso como única prueba puede causar daños reputacionales y disputas legales, como en los casos de novelas premiadas señalados por detectores.
- Qué debería hacer una empresa
- Usar los detectores solo como indicio complementario, nunca como prueba concluyente, y establecer un proceso de revisión humana y de comunicación con el autor antes de tomar medidas. Revisar en los próximos seis meses las políticas de autoría y declaración de uso de IA.
Análisis generado por IA a partir de las noticias disponibles; actualizado 27 oct.
Relacionadas
LLM ×7Pangram ×5OpenAI ×4Anthropic ×4Nature ×2Yale ×2EL PAÍS ×2Universidad de Pensilvania ×2Google ×1RAG ×1
Historias
Evaluación de la fiabilidad de detectores de escritura con IA en novelas
Pangram señala IA en la novela premiada 'Donde el agua trabaja'
Novela premiada en España escrita con IA según detector Pangram
Wikipedia frente al contenido generado por IA
Detector IdeaLens para identificar ideas generadas por IA en artículos científicos
Startup lanza sello de 'literatura orgánica' certificando autoría humana
Investigador crea sistema SlopShape para detectar texto generado por IA con 98% precisión
OpenAI implementa marca de agua textGrain en ChatGPT por el AI Act
Noticias
Científicos evalúan si pueden detectar con fiabilidad novelas escritas con IA
Nature publica un artículo que plantea si los científicos pueden identificar de forma fiable cuándo una novela ha sido escrita con IA. No se pudo extraer el…
Por qué importaLa fiabilidad de los detectores de texto generado por IA afecta a editoriales, concursos literarios y evaluaciones académicas que necesitan verificar…
Un detector Pangram atribuye un 99% de IA a la novela premiada 'Donde el agua trabaja', y el caso pone en duda la fiabilidad de estos detectores
El País aplicó el detector Pangram a la novela 'Donde el agua trabaja', ganadora del primer Premio Almadía Ventosa-Arrufat, y el detector le atribuyó un 99% de…
Por qué importaMuestra que los detectores de IA no sirven como prueba de autoría y que las empresas y organizaciones que los usen para decidir sanciones se exponen…
Una novela premiada con 20.000 euros fue escrita en un 99% con IA según un detector, y la editorial suspendió su gira
La novela corta "Donde el agua trabaja", de David Silva Rojas, ganó en julio el premio Almadía Ventosa-Arrufat, dotado con 20.000 euros. El diario El País la…
Por qué importaMuestra que los premios literarios y las editoriales necesitan controles y cláusulas claras sobre el uso de IA, y que los detectores automáticos ya…
Wikipedia combate los artículos escritos por IA con voluntarios y herramientas de detección
Ellia Lebleu, miembro fundador del proyecto voluntario WikiProject AI Cleanup, explica que la iniciativa, lanzada en 2023, retira contenido generado por IA que…
Por qué importaMuestra cómo una organización de referencia gestiona la calidad de contenidos frente a la IA generativa, con normas, detección y verificación de…
Un detector dice distinguir si las ideas de un artículo científico son de una IA o de un humano
Investigadores de la Universidad de Maryland han desarrollado IdeaLens, un detector que analiza el esquema de un texto científico, eliminando su estilo, para…
Por qué importaLas conferencias y revistas científicas están saturadas de contenido generado por IA, y un método que evalúe el grado de uso de IA en las ideas…
Startup británica lanza certificación 'orgánica' para libros escritos sin IA
La startup británica Books by People obtuvo aprobación de la Oficina de Propiedad Intelectual del Reino Unido para distribuir un sello que certifica que un…
Por qué importaRefleja una tendencia emergente de certificación de 'autenticidad humana' como respuesta a la desconfianza generada por la IA generativa, con…
Investigador independiente logra un 98% de precisión detectando texto generado por IA con el sistema 'SlopShape'
El investigador Jochen Madler creó un sistema llamado SlopShape que analiza la estructura del discurso (más de 200 preguntas sobre orden de ideas, tesis…
Por qué importaLa detección de texto generado por IA es crítica en educación, periodismo y verificación de contenidos, donde las herramientas actuales son poco…
OpenAI añadirá marca de agua invisible al texto de ChatGPT y Codex en la UE
OpenAI anunció que incorporará una marca de agua invisible llamada textGrain al texto generado por ChatGPT y Codex para usuarios seleccionados en la Unión…
Por qué importaEs una respuesta directa a exigencias regulatorias europeas y muestra las limitaciones técnicas actuales de la detección de contenido generado por…
OpenAI añadirá marca de agua invisible a textos de ChatGPT y Codex en la UE
OpenAI implementará un sistema de marca de agua invisible, llamado textGrain, en textos generados por ChatGPT y Codex en la UE para cumplir con el AI Act…
Por qué importaMarca un paso concreto de cumplimiento normativo del AI Act que podría extenderse a otras jurisdicciones y presionar a competidores como Anthropic…
Debate sobre detectores de IA en literatura tras acusación contra el escritor Thélyson Orélien
Una acusación anónima en redes sociales, basada en un análisis con la herramienta Pangram, sugirió que el escritor canadiense Thélyson Orélien usó IA…
Por qué importaEl caso ilustra los límites técnicos y éticos de los detectores de IA cuando se aplican a la creación literaria, donde el estilo personal puede…
Herramienta Pangram detecta presunto uso de IA en novela francesa premiada
El libro 'C'était ça ou mourir', ganador de premios como el Fnac y el Medusa y con más de 35.000 ejemplares vendidos, fue señalado por una cuenta anónima en X…
Por qué importaEl caso ilustra cómo las herramientas de detección de IA pueden generar controversias públicas con consecuencias reputacionales serias, incluso…