Revisiones de la literatura con el uso de inteligencia artificial: propuesta de un nuevo marco de trabajo

Diagrama de revisiones de la literatura con sistemas de IA



Introducción

La capacidad de los nuevos sistemas de inteligencia artificial generativa para producir síntesis narrativas a partir del análisis de diferentes documentos (artículos científicos, p.e.) nos impone la consideración de sus enormes posibilidades en el ámbito académico, especialmente para la producción de revisiones de la literatura.

Y aquí aparece una tensión entre dos opuestos: por un lado, hacer una revisión de la literatura con una IA generativa implica pasar de tiempos medidos en meses, a tiempos medidos en minutos. La agilidad y el ahorro de tiempos son descomunales.

Por otro lado, por imperativos éticos y cognitivos, no podemos utilizar directamente el contenido creado por la IA como si fuera nuestro. Equivaldría a una forma de plagio (imperativo ético) y perdemos la enorme ventaja que proporciona hacer la revisión de la literatura de modo intelectual (imperativo cognitivo).

Necesitamos un marco de procedimientos que nos permite aprovechar la descarga de trabajo y la agilidad de la IA generativa sin caer en malas prácticas ni perder la ventaja cognitiva. Esto es justo lo que nos proponemos hacer aquí, mediante esta entrada en progreso de la que comenzamos con esta versión inicial que confiamos en poder ir refinando en sucesivas ediciones.

Los sistemas de IA de orientación generalista, como ChatGPT, Claude, etc. y los de orientación académica como Epsilon, Elicit, Scispace, Answer This y otros pueden utilizarse en diferentes fases de un trabajo académico, p.e., en la búsqueda de información, o el cribado de documentos (appraisal) pero en esta entrada nos centraremos en la producción de una revisión de la literatura y muy especialmente en la producción y utilización de la síntesis narrativa.

La razón es que la síntesis narrativa es el núcleo de las revisiones de la literatura de tipo scoping review. Esta a su vez, es una de las modalidades de trabajos de revisión de mayor utilidad para establecer el estado de la cuestión o el marco teórico, y en general, antes de iniciar una nueva investigación, una tesis doctoral, o una memoria para solicitar financiación para un nuevo proyecto de investigación.

La ventaja de la IA

Hemos dicho que un sistema de IA especialmente en el caso de las IA enfocadas en trabajos académicos se especializan en producir síntesis narrativas de decenas de investigaciones. Pero esta forma de expresión es engañosa. La ventaja del uso de sistemas de inteligencia artificial para revisiones de la literatura consiste en que, en el procedimiento convencional, hasta llegar a la síntesis narrativas, necesitamos cuatro fases, a saber (seguimos el framework SALSA):

  1. Búsqueda
  2. Evaluación
  3. Análisis
  4. Síntesis

Pues bien, con el uso de sistemas de IA, estas cuatro fases se reducen, a nivel funcional, a una sola. En concreto, el investigador diseña un prompt, y como resultado, la IA de forma interna lleva a cabo las tres primeras fases en tiempos medidos en minutos. Como resultado presenta: (1) la síntesis narrativa, (2) propuestas de nuevos prompts si el usuario necesita seguir expandiendo la búsqueda y (3) la lista de referencias encontradas, evaluadas y analizadas para producir la síntesis narrativa. Una sola fase ahora condensa las 4 anteriores en minutos donde antes necesitábamos al menos varias semanas o meses.

Hipótesis de trabajo para revisiones de la literatura con uso de IA

Comenzamos con una hipótesis de trabajo que queda articulada en los siguientes principios:

  • Expansión. La inteligencia artificial (IA) aplicada a trabajos académicos debe considerarse un medio para mejorar, facilitar y agilizar procesos, no para substituirlos. En general es una forma de expandir las capacidades cognitivas de los investigadores, no para limitarlas.
  • Síntesis del conocimiento. La síntesis narrativa producida por una IA puede equipararse a una rapid review realizada como paso previo a una systematic review o una scoping review o como forma de agilizar la producción de marcos teóricos o producciones similares (marcos metodológico, marcos conceptuales, estados de la cuestión). En general, es el paso agilizador previo para trabajos de síntesis del conocimiento.
  • Trazabilidad potencial. Solo podemos utilizar sistemas de IA (al menos en este contexto) que cumplan estos tres requerimientos: (a) deben presentar las fuentes utilizadas, (b) deben utilizar de forma declarada bases de datos académicas, (c) debe ser posibles la desactivación del seguimiento de prompts.
  • Verificación. Los contenidos generados por una IA deben ser revisados, verificados, expandidos y editados por el investigador antes de que pasen a formar parte de un trabajo académico publicable
  • Correcta atribución. Los contenidos de la síntesis narrativa producida por una IA puede aportar tanto de forma directa como indirecta, ya sea al marco teórico de trabajos generales o ya sea a las revisiones sistemáticas (systematic reviews) o a las revisiones de alcance (scoping reviews).
  • Interacción crítica. Tanto la aportación directa como indirecta implica que la síntesis narrativa producida por una IA solo puede pasar a formar parte de los contenidos de un trabajo académico una vez revisados, verificados y editados por el investigador.
  • Citación. La aportación directa implica citas literales debidamente atribuidas mediante las convenciones académicas habituales. La indirecta implica parafraseo o mención de ideas, conceptos, teorías, etc., igualmente atribuidos a los autores (humanos) originales mediante las convenciones habituales.
  • Autorías humanas. En todos los casos de aportación directa o indirecta, tras la revisión y edición, los contenidos son asignados a la autoría original de los autores de las fuentes utilizadas por la IA, mediante el uso convencional del sistema de atribución, citación y referencia. Nunca citaremos la IA como autora, siempre los autores originales. Por ello, es imprescindible que la IA utilizada sea capaz de proporcionar fuentes y de vincularlas con los contenidos correspondientes.
  • Trazabilidad real. Por último, en todos los casos los usos de una IA generativa que aporten contenidos directos o indirectos en modo significativo deben ser declarados de forma transparente y trazable en la introducción, la metodología o un apartado específico.
  • Privacidad. Es necesario utilizar sistemas de IA que permitan desactivar el seguimiento de prompts, de manera que no utilicen ni los prompts ni eventuales documentos para su base de conocimiento, ya que podrían formar parte de respuestas a otros usuarios.

Posibles fases en el desarrollo de revisiones de la literatura con uso de IA

A partir de esta serie de puntos, las posibles fases de desarrollo de una revisión de la literatura con sistemas de inteligencia artificial puede seguir estos pasos:

PRIMERA OPCIÓN: RAPID REVIEW

En esta opción, usamos la síntesis o la metasíntesis (preferible) como equivalente a una rapid review con el objetivo de agilizar la producción de un marco teórico o una trabajo de síntesis del conocimiento equivalente, Los pasos y elementos a considerar serían los siguientes:

  1. Protocolo. Declaración de objetivos y de pregunta(s) de investigación de la rapid review, declaración de los sistemas de IA que serán utilizados especificando que se ha verificado que se trata de sistemas que utilizan bases de datos académicas. Ejemplos de esta clase de sistemas son: Scopus con IA, Wos con IA y los sistemas especializados como Elicit, Scispace, Epsilon, Perplexity y otros.
  2. Prompts. Definición de uno o más prompts para usar en uno o más sistemas de IA entre cuyas funciones figure obligatoriamente la aportación de fuentes vinculadas al contenido generado.
  3. Privacidad. Consideración de las cuestiones de privacidad en función de la sensibilidad del tema. En su caso, aseguramiento de que se desactiva el seguimiento de prompts.
  4. Triangulación. Obtención de dos o más síntesis narrativas o bien por uso de diversos prompts con la misma IA o bien mediante el uso del mismo prompt con al menos dos IA diferentes. Idealmente, se combinan ambas formas de triangulación para obtener dos o más síntesis narrativas.
  5. Verificación y metasíntesis. Generación de una metasíntesis de producción humana a través de las operaciones intelectuales de revisión, verificación y lectura de las fuentes, ampliación de ideas y edición crítica de las diferentes síntesis narrativas obtenidas. El resultado es una metasíntesis nueva, originada mediante edición y trabajo crítico intelectual humano.
  6. Trabajo académico. En este punto ya tenemos un contenido que puede ser incorporado a un trabajo académico publicable, pues ha quedado generado siguiendo los estándares de creación habituales en los que se preserva la cadena de atribución académica.

A partir de aquí, la metasíntesis así obtenida puede formar parte de un marco teórico y el proceso se detiene en este punto, o puede dar paso a una scoping review (o systematic review). En el segundo caso, pasamos a la siguiente parte.

SEGUNDA OPCIÓN: SCOPING REVIEW

Esta segunda parte es opcional. Consiste en el escenario en el cual, la síntesis o la metasíntesis obtenida mediante IA, es la primera fase de un nuevo trabajo de revisión más ambicioso, sea una scoping review o una systematic review. En este escenario hay tres fases: la síntesis de la literatura obtenida con la(s) IA ayuda a desarrollar las preguntas de investigación, los criterios de elegibilidad, etc., como parte del protocolo de la nueva investigación. Además, sirve como marco teórico. Y finalmente, llegaría el momento de desarrollar la nueva investigación. En forma más esquemática:

  1. Protocolo final. Elaboración del protocolo final para el desarrollo de una scoping review o de una una systematic review.
  2. Marco teórico. Adaptación de la metasíntesis narrativa como marco teórico de la scoping review.
  3. Scoping review. Desarrollo y resolución de la scoping review (o systematic review) por los procedimientos habituales de trabajo intelectual. El lector interesado puede encontrar materiales relacionados en este enlace sobre scoping reviews.

Un cambio duradero

La inteligencia artificial generativa no ha sido creada para producir revisiones de la literatura, sin embargo presentan tal facilidad para analizar y sintetizar documentos que parece como si hubieran sido concebidas justo para esto.

Aún es pronto para afirmarlo con suficiente rotundidad, pero todo apunta que las revisiones de la literatura ya no se llevarán a cabo nunca más sin el uso de la IA. La IA puede servir en cualquier momento del proceso.

En esta entrada nos hemos centrado en la producción de la síntesis narrativa y más concretamente, de la metasíntesis, pero si adoptamos Si adoptamos el framework SALSA es fácil ver que cada una de las fases de una revisión de la literatura de tipo sistemático, a saber, Search, AppraisaL, Synthesis y Analysis, pueden beneficiarse del uso de la IA.

Esto aportará ventajas a los académicos, al agilizar y liberar de las tareas que más tiempo consumen en una revisión de la literatura de realización intelectual (humana), pero no será sin pagar algún coste, cosa que examinamos en el siguiente punto.

Efectos desfavorables

Cabe inferir al menos dos posibles efectos desfavorables en la previsible generalización del uso de sistemas de inteligencia artificial en la producción de revisiones de la literatura que, expresamente, nuestra propuesta intenta evitar:

  1. Pérdida de beneficios cognitivos para los académicos
  2. Pérdidas en la cadena de atribución y las malas praxis asociadas (plagio)

Vamos a considerarlos aunque sea por ahora de forma somera. En otras ediciones eventualmente podemos desarrollarlos con mayor profundidad.

El primero, se refiere a que la generación automática de síntesis narrativas, priva al académico de los inmensos beneficios cognitivos de la lectura profunda de las referencias que forman parte de la revisión, puesto que ahora esa tarea la lleva a cabo la IA. Para prevenir este efecto desfavorable, nuestra propuesta prevé la lectura de las referencias de las que procedan las teorías, conceptos o ideas que vayan a ser recogidas en la metasíntesis. Recordemos que la metasíntesis la produce el académico (humano).

El segundo, se refiere a que los sistemas de IA, en principio, perjudican la cadena de atribución que, en procedimientos manuales se preserva con mayor facilidad (salvo plagio intencional). La cadena de atribución se refiere a la buena praxis consistente en citar a los autores originales de las ideas utilizadas en los trabajos académicos. Su contrario, es el plagio.

De nuevo, nuestra propuesta afronta este problema al situar como una restricción absoluta la obligación de trabajar solo con IA que aporten fuentes y que lo hagan con la capilaridad suficiente, al mismo tiempo que nuestra propuesta incorpora la necesidad de verificar tales fuentes y de leer aquellas de las que queramos incorporar contenidos literales o parafraseados en nuestra metasíntesis.

Conclusiones

Hemos presentado un marco de procedimientos que permite aprovechar las ventajas de la utilización de inteligencias artificiales generativas en revisiones de la literatura. El marco presentado se beneficia de la agilidad y mejora de procesos sin eliminar la intervención crítica intelectual humana.

Se produce una agilización de procesos en las fases de búsqueda, elegibilidad, análisis y síntesis. A cambio, el trabajo humano se invierte en verificación, revisión, edición y producción intelectual de una metasíntesis.

El resultado debe considerarse equiparable al obtenido en una rapid review, y a partir de aquí puede utilizarse como marco teórico sin desarrollos posteriores, o como marco teórico para una scoping review convencional.

Hay cuestiones pendientes muy importantes que parece que solo podrán ser enfocadas de manera profunda con el tiempo, esto es, a medida que se vaya incrementando la experiencia de uso de los sistemas de IA en la agilización de revisiones de la literatura, y en paralelo se vayan produciendo (como es de esperar) nuevas investigaciones al respecto. Por el momento, hemos señalado dos posibles efectos con potencial desfavorable: el efecto cognitivo en los académicos y la preservación de la cadena de atribuciones. Efectos que hemos intentado prevenir en nuestra propuesta que, sin duda, es susceptible de mejoras que espero se vayan incorporando en nuevas ediciones de la misma,


Otras entradas recientes relacionadas con el uso de la IA en trabajos académicos



Referencias

Aguilera-Cora, E., Lopezosa, C., & Codina, L. (2024). Scopus AI Beta
Functional analysis and cases. Barcelona: Universitat Pompeu Fabra. Departament de Comunicació. (Serie Editorial DigiDoc. DigiDoc Reports). https://repositori.upf.edu/handle/10230/58658

Bianchini, S., Müller, M., & Pelletier, P. (2022). Artificial intelligence in science: An emerging general method of invention. Research Policy, 51(10), 104604. https://doi.org/10.1016/j.respol.2022.104604

Bhatia, P. (2023). ChatGPT for academic writing: A game changer or a disruptive tool? Journal of Anaesthesiology Clinical Pharmacology, 39(1), 1. https://doi.org/10.4103/joacp.joacp_84_23

Codina, L. and Pedraza-Jiménez, R. (2016), “Características y componentes de un sistema de análisis de medios digitales: el SAAMD”, in Pedraza-Jiménez, R., Codina, L. and Guallar, J. (Eds), Calidad en sitios web: Método de análisis general, e-commerce, imágenes, hemerotecas y turismo, Editorial UOC, Barcelona, pp. 15-40.

Crompton, H., & Burke, D. (2023). Artificial intelligence in higher education: the state of the field. International Journal of Educational Technology in Higher Education, 20(1). https://doi.org/10.1186/s41239-023-00392-8

Dwivedi, Y. K., Hughes, L., Ismagilova, E., Aarts, G., Coombs, C., Crick, T., Duan, Y., Dwivedi, R., Edwards, J. S., Eirug, A., Galanos, V., Ilavarasan, P. V., Janssen, M., Jones, P., Kar, A. K., Kizgin, H., Kronemann, B., Lal, B., Lucini, B., . . . Williams, M. D. (2021). Artificial Intelligence (AI): Multidisciplinary perspectives on emerging challenges, opportunities, and agenda for research, practice and policy. International Journal of Information Management, 57, 101994. https://doi.org/10.1016/j.ijinfomgt.2019.08.002

Elsevier. (2023, August 1). Elsevier takes Scopus to the next level with generative AI. https://www.elsevier.com/about/press-releases/elsevier-takes-scopus-to-the-next-level-with-generative-ai

Elsevier. (2024, January, 16). Launch of Scopus AI to Help Researchers Navigate the World of Research. https://www.elsevier.com/about/press-releases/launch-of-scopus-ai-to-help-researchers-navigate-the-world-of-research

Gundersen, O. E., Gil, Y., & Aha, D. W. (2018). On Reproducible AI: Towards Reproducible Research, open Science, and digital scholarship in AI publications. AI Magazine, 39(3), 56–68. https://doi.org/10.1609/aimag.v39i3.2816

Font-Julián, C. I., Orduña-Malea, E., & Codina, L. (2024). ChatGPT Search as a tool for scholarly tasks: evolution or devolution?. Infonomy, 2(5). https://doi.org/10.3145/infonomy.24.059

High-Level Expert Group on Artificial Intelligence. (2019, April 8). Ethics guidelines for trustworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

Kaebnick, G. E., Magnus, D., Kao, A., Hosseini, M., Resnik, D. B., Dubljević, V., Rentmeester, C. A., Gordijn, B., & Cherry, M. J. (2023). Editors’ statement on the responsible use of generative AI technologies in scholarly journal publishing. Medicine Health Care and Philosophy, 26(4), 499–503. https://doi.org/10.1007/s11019-023-10176-6

Lopezosa, C., & Codina, L. (2023). Probando Bard: así­ funciona la Inteligencia Artificial Generativa de Google. Anuario Think EPI, 17. https://doi.org/10.3145/thinkepi.2023.e17a25

Lopezosa, C., Codina, L., & Ferran-Ferrer, N. (2023, February 1). Chat GPT como apoyo a las systematic scoping reviews: integrando la inteligencia artificial con el framework SALSA. http://hdl.handle.net/2445/193691

Lopezosa, C., Codina, L., & Boté-Vericad, JJ. (2023). Testeando ATLAS.ti con OpenAI: hacia un nuevo paradigma para el análisis cualitativo de entrevistas con inteligencia artificial. Barcelona: Universitat Pompeu Fabra. Departament de Comunicació. (Serie Editorial DigiDoc. DigiDoc Reports). https://repositori.upf.edu/handle/10230/56449

Lund, B., Wang, T., Mannuru, N. R., Nie, B., Shimray, S. R., & Wang, Z. (2023). ChatGPT and a new academic reality: Artificial Intelligence‐written research papers and the ethics of the large language models in scholarly publishing. Journal of the Association for Information Science and Technology, 74(5), 570–581. https://doi.org/10.1002/asi.24750

Tlili, A., Huang, R., Mustafa, M. Y., Zhao, J., Bozkurt, A., XU, L., … Wang, H.(2023). Speaking of transparency: Are all Artificial Intelligence (AI) literature reviews in education transparent?. The Journal of Applied Learning & Teaching (JALT), 6(2). https://doi.org/10.37074/jalt.2023.6.2.15

UNESCO. (2023, September 8). Guidance for generative AI in education and research. https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research

Whitfield, S., & Hofmann, M. A. (2023). Elicit: AI literature review research assistant. Public Services Quarterly, 19(3), 201–207. https://doi.org/10.1080/15228959.2023.2224125

World Commission on the Ethics of Scientific Knowledge and Technology. (2019). Preliminary study on the ethics of artificial intelligence. 
https://unesdoc.unesco.org/ark:/48223/pf0000367823

Lluís Codina
Resumen de privacidad

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocer cuando vuelves a nuestra web o comprender qué secciones de la web encuentras más interesantes y útiles.