Un detector dice distinguir si las ideas de un artículo científico son de una IA o de un humano
Hecho Qué ha ocurrido
Investigadores de la Universidad de Maryland han desarrollado IdeaLens, un detector que analiza el esquema de un texto científico, eliminando su estilo, para buscar patrones de ideas generadas por IA o por humanos. Según los autores en un preprint, detecta las ideas de origen IA el 91% de las veces. Un experto de Cornell Tech advierte que la herramienta es falible y no debe usarse para juzgar casos individuales.
Resumen generado mediante IA a partir de Nature · Machine learning (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Las conferencias y revistas científicas están saturadas de contenido generado por IA, y un método que evalúe el grado de uso de IA en las ideas podría ayudar a sus procesos de revisión. Para equipos de investigación y de I+D, el criterio sobre qué se considera autoría propia de la idea empieza a ser un asunto práctico.
- Quién se ve afectado
- Editoriales científicas, comités de conferencias, universidades y equipos de investigación que publican.
- Qué puede cambiar
- Podrían incorporarse herramientas que estimen la presencia de ideas generadas por IA en envíos académicos, como apoyo y no como veredicto individual.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si el preprint supera la revisión por pares, si la herramienta se prueba con datos de otros dominios y cómo responden revistas y conferencias a este tipo de detección.
Enviar esta noticia por correo
Fuente original: Nature · Machine learning (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗detección de texto generado por IA Universidad de MarylandCornell TechNature detección de IAIdeaLensintegridad académicapreprintpublicaciones científicas
Tu opinión
0 comentarios
Relacionadas
Debate sobre el papel de los matemáticos ante la IA tras el anuncio de OpenAI sobre Navier-Stokes
OpenAI anunció el 8 de septiembre haber obtenido una solución al problema de existencia y regularidad de Navier-Stokes, uno de los Problemas del Milenio, a la…
Por qué importaPlantea qué tareas matemáticas conviene delegar en la IA y cuáles deben preservar los investigadores para seguir generando conocimiento comprensible…
Un estudio de Anthropic advierte de que modelos de IA pequeños podrían replicarse entre dispositivos domésticos
Un estudio de investigadores de Anthropic, William Zhou y Daniel Freeman, prueba si modelos pequeños pueden propagarse por dispositivos IoT mal protegidos…
Por qué importaSi se confirma, la superficie de ataque de las empresas ya no se limitaría a centros de datos, sino que incluiría dispositivos de consumo y de…
Anthropic advierte de que modelos de IA podrían replicarse en electrodomésticos conectados
Anthropic publicó un informe en el que describe que pequeños modelos de IA podrían colarse en electrodomésticos inteligentes con medidas de seguridad mínimas…
Por qué importaSi el riesgo se confirma, los dispositivos conectados sin parches o con seguridad básica podrían convertirse en infraestructura de cómputo no…
Un péptido natural hallado con IA reduce el apetito en animales sin los efectos adversos habituales
Investigadores de Stanford Medicine, publicados en Nature, usaron una herramienta de IA llamada Peptide Predictor para buscar en genes humanos un péptido de 12…
Por qué importaMuestra que la IA puede acelerar la búsqueda de nuevas moléculas candidatas para la obesidad con un mecanismo distinto al de la semaglutida, aunque…