Los científicos de IA tienen un problema: los robots de IA están revisando su trabajo

La revolución de la inteligencia artificial en la revisión por pares

Cuando Arjun Guha presentó un artículo en una conferencia sobre inteligencia artificial el año pasado, recibió comentarios que le hicieron poner los ojos en blanco. "El documento está impecablemente articulado", escribió un revisor, "y cuenta con una narrativa lúcida complementada con secciones y subsecciones secuenciadas lógicamente".

Impacto de la IA en la revisión por pares

Guha, profesor asociado de informática en la Universidad Northeastern, sabía que este comentario “absurdo” podía provenir de una sola fuente: un chatbot de IA.

La IA está revolucionando la revisión por pares, la tradicional tradición en la que los académicos ayudan a juzgar qué investigaciones deben elevarse a publicación y cuáles deben ir a la pila de rechazos. Bajo el espectro de ChatGPT, ya nadie puede estar seguro de que los humanos estén leyendo y juzgando su trabajo intelectual.

Problemas éticos y desafíos en la comunidad científica

Ya hay indicios de que las evaluaciones de IA podrían estar corrompiendo la integridad de la producción de conocimiento. La retroalimentación generada por computadora puede aumentar levemente las posibilidades de aprobación de un manuscrito, y cargar los datos no publicados de alguien en un chatbot para producir una revisión podría equivaler a una violación de las políticas de confidencialidad.

Desafíos y dilemas éticos en la revisión por pares

Desafortunadamente, los investigadores de IA sólo tienen la culpa de ello. "Que nosotros, los científicos informáticos, hayamos hecho esto que ahora está arruinando nuestro proceso de revisión… sí, es bastante irónico", dijo Guha. "Es un poco desordenado".

El papel de la IA en la evaluación académica

Incluso antes de ChatGPT, la revisión por pares estaba fallando. Las revistas y conferencias solicitan a expertos que proporcionen comentarios anónimos sobre el trabajo de los autores, y sus opiniones son las que mantienen en funcionamiento el motor académico.

Para leer el artículo completo, puedes acceder al enlace aquí.