Las IA están empeorando

   (Por Marta Peirano*) - Es extraordinario que un consejero delegado anuncie su nuevo producto diciendo que miente y manipula menos que el anterior. Pero lo realmente increíble es que sea mentira. En la presentación en directo del nuevo modelo de OpenAI, el pasado jueves, Sam Altman mostró unos gráficos donde comparaba GPT-5 con otro anterior (o3). Por suerte (mala suerte para Altman), hubo un par de periodistas que, además de escuchar las palabras que salían de su boca, se fijaron en las tablas que utilizó en la demostración.

   Un gráfico decía que GPT-5 tiene una tasa de engaño del 50%. Pero la barra que lo representaba era menos de la mitad del tamaño que la barra de o3, cuya tasa de engaño era del 47,4% (al menos según los cálculos de OpenAI). Y en el gráfico que parecía comparar la precisión de los modelos, las barras de los más antiguos (o3 y GPT-4) tenían el mismo tamaño, aunque los valores que representaban eran 69,1% y 30,8% respectivamente, y la barra de GPT-5 era el doble de grande que ambas, aunque el valor era solo del 52,8%.

   La incongruencia no parece un accidente. Las cifras negaban las palabras de Altman, pero los gráficos la confirmaban. Tras ser denunciado, Altman se sorprendió por el "mega error en la gráfica" y se disculpó por el "crimen gráfico involuntario" de su equipo. Un dato poéticamente relevante es que ambos gráficos estaban recogidos en la sección titulada "engaño" (Deception).

   "Nuestros modelos pueden aprender comportamientos desalineados, como la búsqueda de poder, el sabotaje deliberado, el engaño y las maniobras estratégicas", dice la página de OpenAI sobre "Detección de conductas indebidas en modelos de razonamiento de ultimísima generación". También dice que, cuando son penalizados por sus "malos pensamientos", no dejan de tenerlos, sino que aprenden a disimular mejor.

   Esta retórica de ente malicioso que conspira contra nosotros desde la oscuridad de su caja negra es tan falsa como los gráficos de Altman. Por un lado, disfraza las limitaciones insalvables de la tecnología. Los modelos de IA no pueden mentir ni dejar de mentir, alucinar o inventarse cosas porque no conocen el mundo real. Por otro, esquiva su responsabilidad pretendiendo que no es un software defectuoso sino un dios salvaje que tratan de domesticar. Un problema, porque la IA se ha convertido en los nuevos mediadores de la realidad.

   Los buscadores rastreaban Internet para ofrecer una jerarquía de enlaces. Hace 10 años, Google enviaba un visitante por cada dos páginas rastreadas. Hace seis meses era uno por cada seis. Hoy envía un visitante por cada 18 páginas. Bastante injusto para los medios de comunicación. La IA rastrea los contenidos y los sintetiza para responder nuestras preguntas sin que pinchemos en la fuente original. Hace seis meses, OpenAI enviaba un visitante por cada 250 páginas digeridas; ahora son 1.500. Anthropic es la peor de todas: un visitante por cada 60.000.

   Los números nos dicen tres cosas. La primera es que los principales consumidores de noticias son bots y modelos de IA, no personas. La segunda, que las empresas de IA se están llevando la atención, los datos y los ingresos publicitarios de todos los demás. La tercera, menos autoevidente pero quizá la más importante, es que nosotros hacemos las noticias, pero ChatGPT las sintetiza para el lector. La gente confía en la IA para entender el mundo, pero la IA empeora y sus dueños mienten y manipulan gráficos para que parezca al revés.

*Publicado en El País, de Madrid