La retroalimentación de la Inteligencia Artificial ya es real

El uso de la Inteligencia Artificial (IA) en el ámbito académico puede generar el fenómeno de retroalimentación, por el que las IA se copien de otras y vayan adaptando sus respuestas hasta llegar a un punto de deformación de la información del que será muy difícil regresar.

Parece que las cosas están yendo más rápido que lo previsto, pues Google Academics  se está llenando de "investigaciones" sobre IA escritas por… Inteligencia Artificial.

Google Académico (en inglés, Google Scholar) es un motor de búsqueda desarrollado por Google y enfocado específicamente en la búsqueda de contenido y bibliografía científica y académica. Lo normal es encontrar citas y enlaces a libros, artículos de revistas científicas y estudios de todo tipo que estaban redactados por investigadores humanos. Pero eso era hasta ayer.

"Como modelo de lenguaje"

Andrew Kean Gao, estudiante de Stanford, descubrió algo singular al hacer una búsqueda en este servicio. Quiso saber si en los resultados de búsqueda aparecerían textos escritos por una IA y, en concreto, por ChatGPT, que suele comenzar algunos de sus párrafos con la frase "As an AI language model..." ("Como modelo de lenguaje de IA..."). 

Resultó que había decenas de resultados.

En estos artículos lo sorprendente es que los autores no mencionan en absoluto que han utilizado ChatGPT —o sistemas similares— para redactar los textos.  

Aunque no lo hagan, esa frase inicial los delata, como sucede por ejemplo con el estudio de Dharmaraja Selvamuthu, del Instituto Indio de Tecnología en Delhi, que en enero de 2023 publicó un estudio sobre predicción de valores de bolsa usando redes neuronales. Apenas empezando la descripción parece quedar claro que ChatGPT ha escrito parte (si no todo) el texto.

Ejemplos por doquier. Es fácil replicar el experimento entrando en Google Académico (https://scholar.google.es/) e introduciendo en la caja de búsqueda el texto "As an AI language model – ChatGPT". Tanto en el celular como en la web se puede comprobar rápidamente lo numerosos que son los resultados.

"Como dicen X e Y"

Citando estudios de falsos autores queda en evidencia la debilidad de la redacción de ChatGPT, que es conocido por inventar cosas. En este estudio se citaba otro informe "de los autores X e Y" que ni siquiera existen. 

Hacer mención literal de autores con esos nombres inexistentes y que no son más que variables, ya deja claro que los usuarios que publicaron esos estudios ni siquiera se molestaron en revisarlos.

El problema no es solo de los autores que utilizan ChatGPT para redactar estos textos total o parcialmente, sino de las reputadas plataformas en las que se publican, que parece que tampoco realizan ningún tipo de control o filtrado sobre los textos. 

La retroalimentación de falsos estudios o análisis quedó en evidencia durante la pandemia, cuando medios que presumen de "serios" se hicieron eco de extensos informes sobre la inutilidad de la vacuna y el origen de la Covid.

Es como si todo valiese mientras tenga el aspecto de un estudio formal, y el actual auge de la IA generativa puede hacer que aquella situación se quede casi en anécdota al lado de esta nueva hornada de estudios (co)escritos por ChatGPT y otros chatbots.