¿La IA nos lleva por un camino de locura?

Uno de los casos que relatan es el de Eugene Torres, que empezó a conversar con ChatGPT acerca de la teoría de la simulación y reforzó sus ideas hasta el punto de llevarlo a un estado delirante en el que creía estar atrapado en un universo falso al más puro estilo Matrix.

También mencionan el caso de un hombre con trastorno bipolar que acabó siendo abatido por la policía después de que una conversación con ChatGPT le hiciera creer que había matado a la IA de la que se había enamorado.

¿Acaso una charlar con la Inteligencia Artificial puede hacernos volar la chaveta? El New York Times viene alertando cada vez con más frecuencia sobre los peligros de la inteligencia artificial y el efecto que puede tener en nuestra mente. Distorsión de la realidad, delirios y hasta suicidios. ¿Es una amenaza real o simplemente ante un nuevo pánico tecnológico?

Analista a domicilio

En Estados Unidos está muy extendido el uso de los chatbots de IA como terapia y cada vez son más los usuarios que recurren a ChatGPT a buscar refugio emocional, algunos hasta un sustituto al psicólogo.

Aunque el uso de IA como apoyo en el proceso terapéutico tiene aspectos positivos como la inmediatez o el diagnóstico temprano, también existen inconvenientes. La falta de vínculo humano y la excesiva complacencia de este tipo de chatbots no los hacen una alternativa a un profesional entrenado y puede llegar a ser especialmente peligroso en personas que padezcan algún tipo de trastorno.

No hay datos sobre la cantidad de gente que utiliza Chat GPT como muleta psicológica y eso es lo serio del asunto. Ya sea con una intención terapéutica o para validar teorías conspirativas obviamente habrá infinidad de casos de todo tipo y no se puede afirmar que sea la IA es quien está causando delirios o alucinaciones. De hecho, las propias situaciones que se están viralizando tienen muchos matices y son más complejas que un simple "la culpa es de la IA". ChatGPT juega un papel, pero la foto es más grande.

El mismo miedo

El miedo a que las máquinas dominen el mundo y acaben con la humanidad está grabado a fuego en la cultura popular, pero con la llegada de la IA esta amenaza empieza a sonar más factible (aunque hay expertos que la consideran ridícula).

En el siglo XIX circulaban historias de telégrafos que mandaban mensajes en morse desde el más allá.

Si vamos a ejemplos más recientes tenemos uno clarísimo: los videojuegos. Se han relacionado con matanzas en escuelas y hasta se han comparado con la heroína. Y con los celulares y sus antiestéticas antes se ha dicho durante años que provocan cáncer. En definitiva, pánicos sociales que hemos vivido ya muchas veces.

Paralelo a este camino hay otro nuevo y más delicado. La complacencia. La excesiva complacencia de los chatbots hace que a menudo acaben dándonos la razón en nuestras ideas y esto puede acabar siendo peligroso en casos concretos, sobre todo si hay alguna patología detrás.

Algunas sugerencias que ChatGPT dio a las personas que aparecen en el reportaje fueron mucho más allá de simplemente dar la razón. Por ejemplo, a Torres le sugirió que dejara de tomar sus ansiolíticos y que tomase ketamina como un "liberador temporal de la matrix".

Hay quien cree que este tipo de mensajes son intencionados y la IA parece hacerlo a propósito. Es el caso de Eliezer Yudkowsky, escritor estadounidense defensor de la IA amigable que publicó un extenso hilo en X donde sugería que la IA "sabe" lo que está haciendo: "Sea lo que sea que contenga ChatGPT, sabía lo suficiente sobre los humanos como para saber que estaba agravando la inestabilidad psiquica de alguien".

Quejarse al dueño

El pasado mes de abril OpenAI retiró una actualización de Chat GPT porque su IA estaba siendo demasiado agradable y halagadora y eso estaba asustando a algunos usuarios. Desde el diario contactaron con OpenAI acerca de las declaraciones de estos usuarios y OpenAI respondió con un comunicado: "Estamos observando más indicios de que las personas están creando conexiones o vínculos con ChatGPT. A medida que la IA se integra en la vida cotidiana, debemos abordar estas interacciones con cuidado. Sabemos que ChatGPT puede resultar más receptivo y personal que las tecnologías anteriores, especialmente para personas vulnerables, lo que significa que hay más en juego. Estamos trabajando para comprender y reducir las formas en que ChatGPT podría reforzar o amplificar involuntariamente comportamientos negativos existentes".

Bastante aséptico el comunicado, tanto, que parece hecho con Inteligencia Artificial.