¿Qué pasará cuando la Inteligencia Artificial aprenda de ella misma?
Durante la revolución industrial hubo miedo a las máquinas: se decía que reemplazarían y destruirían todo lo relacionado con el trabajo del hombre y de los caballos. - Por Ricardo Ambrosig
Con la llegada de los robots a la industria se temió que estos dejaran a millones sin trabajo. En cada ocasión, los miedos fueron infundados. Lo mismo sucede con la Inteligencia Artificial (IA): está involucrada en tantas cosas de nuestra vida diaria, sin darnos cuenta, que algunos anticipan una era de desocupación en manos de los algoritmos, en tanto estos sigan evolucionando.
Es difícil que así sea, pero hay otro riesgo: ¿qué pasará cuando las IA ya sepan todo lo que deban saber? ¿Será la retroalimentación un fenómeno irritante y molesto, como sucede con los sistemas de audio?
Las IA se alimentan de conocimiento introducido por seres humanos reales y luego se lanzan a la red como una aspiradora, absorbiendo todo lo que se haya escrito, filmado o dibujado, para elaborar sus respuestas y "análisis". Pero dentro de ese conocimiento, cada vez hay más producido por otras inteligencias artificiales.
Los modelos de IA están inundando la web de nuevos contenidos a un ritmo frenético. Lo estamos viendo claramente con Midjourney y su capacidad creativa, pero también con ChatGPT, que por ejemplo está ayudando a los spammers a crear miles de sitios web. Ahora hay estudios que dicen que eso plantea un gran problema en el futuro: el llamado "colapso del modelo".
El colapso del modelo
Lo que estamos notando de un tiempo a esta parte es que Chat GPT (por citar un ejemplo) comenzó a mentir descaradamente. El colapso del modelo se refiere a un proceso de aprendizaje degenerativo en el que los modelos, con el tiempo, empiezan a olvidar sucesos improbables, a medida que el modelo se "envenena" con su propia proyección de la realidad.
El problema es que, dado que la IA está llenando la web de contenido, y que esa IA es entrenada y se actualiza con toda esa web que bulle y crece, ¿qué pasa con esa retroalimentación? ¿Cómo influirá en esos modelos el hecho de que cada vez más datos de su entrenamiento provengan de contenidos generados por IA, y no de contenidos generados por seres humanos?
De momento, todo va bien. Por ahora, los modelos han sido entrenados con datos generados por seres humanos —los usados por ChatGPT estaban actualizados hasta el otoño de 2021, aproximadamente—, y queda por ver qué ocurrirá con futuros modelos que se actualicen con datos que incluyan los generados por otros modelos de IA. Las previsiones del estudio no son buenas, desde luego.
Pérdida de fidelidad
Con el tiempo, "los errores en los datos generados se agravan y, en última instancia, obligarán a los modelos que aprenden de los datos generados a percibir la realidad de forma aún más errónea". Ilia Shumailov, uno de los responsables del estudio, indicaba que de hecho esa degeneración se puede producir muy rápidamente: "Los modelos pueden olvidar rápidamente la mayor parte de los datos originales de los que aprendieron al principio".
Otro efecto derivado del problema sería la de una especie de IA retroalimentándose continuamente, hasta adquirir conocimientos erróneos producto de su propio trabajo. Esto llevará a una calidad cada vez peor, algo parecido a lo que ocurre con una imagen JPEG que se ha copiado reiteradamente y se degradó.
Los investigadores indican dos formas de evitar este problema. La primera, guardando una especie de "copia maestra" del conjunto de datos de entrenamiento original "producido por humanos", evitando "contaminarlo" con datos generados por una IA. La segunda, ir incluyendo nuevos conjuntos de datos generados por humanos a lo largo del entrenamiento en etapas posteriores.
