Un periodista genera con IA un artículo científico falso y lo envía a una revista del IEEE
Hecho Qué ha ocurrido
El periodista Benjamin Skuse probó si la IA puede generar un artículo científico falso capaz de superar los controles de una revista del IEEE. Usó chatbots gratuitos y, después, el sistema autónomo FARS. Según el texto, los controles de integridad detectaron referencias fabricadas o no verificables en el primero, y en el segundo señalaron el uso excesivo de preprints sin revisión por pares, aunque las referencias eran reales. El texto cita estadísticas sobre el auge de contenido académico generado con IA, pero son cifras de terceros que no se verifican en la pieza.
Resumen generado mediante IA a partir de IEEE Spectrum AI (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Muestra que generar un artículo convincente con IA está al alcance de un usuario sin formación especial, y que los controles automáticos de las revistas son una barrera parcial. Para instituciones que dependen de la publicación científica, la verificación de fuentes se vuelve un problema operativo.
- Quién se ve afectado
- Editoriales científicas, universidades, investigadores y revisores por pares.
- Qué puede cambiar
- Las revistas podrían necesitar controles automáticos de referencias y de preprints más estrictos, lo que añadiría coste y tiempo a la revisión.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si las editoriales publican métodos de detección de artículos generados por IA y cómo responden los revisores voluntarios a un volumen creciente de envíos.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: IEEE Spectrum AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentes IEEEIEEE AccessIEEE Spectrum contenido generado por IA FARS IEEE integridad académica publicación científica
Forma parte de la historia Citas y artículos falsos generados por IA ponen en jaque la integridad científica (2 noticias, estado: en evolución).
Relacionadas
Nature defiende tratar las citas inventadas por IA como mala conducta investigadora
Un artículo de opinión de Nature sostiene que las citas bibliográficas generadas por IA que no existen deberían considerarse mala conducta investigadora. Solo…
Por qué importaPara equipos de investigación y editoriales, la verificación de referencias pasa a ser un control de integridad y no solo un detalle de estilo.
Científicos evalúan si pueden detectar con fiabilidad novelas escritas con IA
Nature publica un artículo que plantea si los científicos pueden identificar de forma fiable cuándo una novela ha sido escrita con IA. No se pudo extraer el…
Por qué importaLa fiabilidad de los detectores de texto generado por IA afecta a editoriales, concursos literarios y evaluaciones académicas que necesitan verificar…
Un detector dice distinguir si las ideas de un artículo científico son de una IA o de un humano
Investigadores de la Universidad de Maryland han desarrollado IdeaLens, un detector que analiza el esquema de un texto científico, eliminando su estilo, para…
Por qué importaLas conferencias y revistas científicas están saturadas de contenido generado por IA, y un método que evalúe el grado de uso de IA en las ideas…
Investigador independiente logra un 98% de precisión detectando texto generado por IA con el sistema 'SlopShape'
El investigador Jochen Madler creó un sistema llamado SlopShape que analiza la estructura del discurso (más de 200 preguntas sobre orden de ideas, tesis…
Por qué importaLa detección de texto generado por IA es crítica en educación, periodismo y verificación de contenidos, donde las herramientas actuales son poco…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.