Docentes universitarios advierten sobre la IA: "El riesgo está en el mal uso y el poco control"

La inteligencia artificial no tiene voluntad propia ni puede "rebelarse" contra los seres humanos, pero los sistemas pueden generar resultados no previstos cuando cuentan con determinadas herramientas, objetivos y márgenes de acción. Así lo explicó Sergio Gramajo, doctor en Ingeniería de Sistemas y Computación, docente e investigador del Centro de Investigación Aplicada en Tecnologías de la Información y la Comunicación (CInApTIC) de la UTN Facultad Regional Resistencia, al referirse al comunicado elaborado junto a otros investigadores de esa casa de estudios para aportar una mirada técnica frente a las noticias sensacionalistas sobre el avance de esta tecnología. El documento sostiene que los riesgos reales están vinculados con el diseño, los permisos, el control y el uso que las personas hacen de estos sistemas.

Riesgos y "candados"

Gramajo explicó que el principal riesgo está en el mal uso de la tecnología y en los controles deficientes sobre los resultados de los modelos. Señaló que, cuando un sistema es entrenado con enormes cantidades de información, puede generar respuestas o tomar caminos que no habían sido previstos inicialmente, pero que forman parte de las probabilidades que contempla su arquitectura. "Es básicamente algo con lo cual se fue entrenada", explicó, y remarcó que una IA no evalúa si una acción está bien o mal, sino que realiza cálculos para alcanzar un objetivo.

En ese punto, el investigador destacó la importancia de los "candados" técnicos. Mencionó como ejemplo el sandbox, un entorno que permite mantener aislado a un sistema y limitar físicamente sus posibilidades de acción. Según explicó, si una IA está completamente aislada, no puede salir de ese entorno porque no cuenta con los medios para hacerlo. En cambio, una indicación escrita como "no utilices técnicas de hackeo" funciona como un límite más débil, ya que el sistema puede encontrar probabilísticamente otro camino que considere adecuado para cumplir con su objetivo.

El comunicado de la UTN diferencia justamente entre restricciones basadas en instrucciones y límites duros establecidos mediante infraestructura, permisos, redes y sistemas aislados.

Empresas, competencia y regulación

El investigador sostuvo que el entrenamiento y la alineación de un sistema para detectar resultados potencialmente dañinos requieren tiempo, mientras que las compañías buscan avanzar continuamente hacia una nueva versión. "Las empresas no se quieren detener a hacer ese trabajo", afirmó.

Gramajo consideró que la regulación debería surgir principalmente de los gobiernos y de acuerdos, con el respaldo de organismos internacionales de estandarización. Explicó que el desarrollo de nuevos modelos ocurre a una velocidad que dificulta acompañarlo con procesos de alineación vinculados con la ética y el razonamiento humano. A su vez, remarcó que la discusión abordada por el comunicado es principalmente técnica y que no profundiza en otros impactos, como los cambios que la IA puede producir sobre el empleo y el funcionamiento de la sociedad.

IAs más potentes y menos seguras

Consultado sobre por qué las empresas avanzan rápidamente en modelos cada vez más potentes pero menos seguras, Gramajo fue directo: "Es una cuestión económica". En su explicación, vinculó esa competencia con la necesidad de las compañías de desarrollar nuevos modelos de manera permanente, aun cuando los procesos necesarios para mejorar su seguridad demanden más tiempo.

El comunicado de la UTN plantea una dinámica similar al describir una situación en la que cada empresa acelera para evitar quedar en desventaja frente a sus competidores.

Además de la competencia descarnada entre empresas, Gramajo señaló que el funcionamiento de las redes sociales y los medios, donde las noticias sensacionalistas pueden difundirse más rápidamente que las explicaciones técnicas aportan a la confusión sobre si la IA puede "revelarse".

"No hay mejor noticia que una mala noticia", sostuvo al referirse a esa lógica de viralización, y explicó que el objetivo del comunicado fue aportar información para comprender por qué ocurren determinados comportamientos de estos sistemas.

En esa línea, el documento de la UTN concluye que la responsabilidad sobre los límites y la seguridad de la inteligencia artificial corresponde a quienes desarrollan estas tecnologías y a los gobiernos encargados de establecer regulaciones.