La ONU y el futuro de la IA
Durante los debates recientes de la Asamblea General de las Naciones Unidas y las discusiones vinculadas con el Consejo de Seguridad, los Estados miembros examinaron cómo aprovechar el potencial de la inteligencia artificial (IA) sin permitir que sus riesgos desborden las instituciones, los derechos humanos y la estabilidad internacional.
Uno de los asuntos debatidos fue el impacto de la IA sobre la desinformación, la integridad de la información y los procesos electorales. Es que la capacidad de generar imágenes, audios y videos falsos cada vez más convincentes plantea dificultades para distinguir hechos de contenidos manipulados. La propia ONU identifica como riesgo la posibilidad de que estas herramientas manipulen a los votantes, influyan sobre la opinión pública y debiliten los procesos democráticos.
El problema, advierten los especialistas, no se limita a los llamados deepfakes. La utilización automatizada de sistemas de IA puede multiplicar la velocidad y el alcance de campañas de desinformación, mientras que los algoritmos pueden contribuir a amplificar determinados contenidos. En el Consejo de Seguridad, el secretario general António Guterres pidió proteger la integridad de la información y señaló la necesidad de transparencia durante todo el ciclo de vida de los sistemas de IA, mecanismos para verificar el origen de la información y salvaguardas capaces de impedir que los contenidos engañosos contribuyan a la violencia o afecten procesos de paz y elecciones.
Frente a estos riesgos, las discusiones en el organismo internacional han puesto el acento en una Inteligencia Artificial que sea segura, confiable y sometida a rendición de cuentas, porque –se remarcó– la cuestión central es cómo combinar innovación tecnológica con reglas que protejan los derechos humanos, la democracia y el Estado de derecho.
Otro eje importante fue la tensión que marca la relación entre gobernanza global, soberanía e innovación. Los debates mostraron que no existe una única visión sobre cuánto debe intervenir la comunidad internacional. Algunos gobiernos defienden normas comunes, instituciones multilaterales y mecanismos de supervisión para reducir riesgos transfronterizos. Otros subrayan la soberanía nacional, la competencia tecnológica y la necesidad de evitar regulaciones que puedan limitar el desarrollo de nuevas aplicaciones. En ese sentido, las intervenciones de los representantes de los Estados reflejaron, por tanto, diferencias sobre el alcance que debería tener la gobernanza internacional, aunque también coincidieron en la necesidad de cooperación.
Por otro lado, el cierre de la llamada brecha digital ocupó igualmente un lugar destacado. La ONU advierte que los beneficios de la IA están distribuidos de manera desigual y que muchos países carecen de infraestructura, capacidades técnicas, datos y recursos informáticos suficientes. Por ello, las discusiones plantearon la necesidad de transferencia de capacidades, financiación, conectividad, formación y acceso a tecnologías que permitan a los países en desarrollo no limitarse a consumir sistemas diseñados en otros lugares, sino participar en su desarrollo y gobernanza.
La dimensión militar fue otro de los asuntos más delicados que se trataron en la Asamblea General. Guterres sostuvo que ninguna máquina debería decidir por sí misma quién vive o muere y reiteró su llamado a prohibir los sistemas de armas autónomas letales que operen sin control humano. También reclamó normas internacionales coherentes, evaluaciones jurídicas, responsabilidad humana y medidas de transparencia y confianza para reducir los riesgos derivados del uso militar de la IA.
A estos debates se sumaron cuestiones relacionadas con privacidad, sesgos algorítmicos, derechos humanos, inclusión y empleo. En ese sentido, se remarcó que la automatización puede generar nuevas oportunidades económicas y mejorar servicios públicos, pero también modificar profundamente los mercados laborales y afectar de manera desigual a distintos grupos sociales. La ONU ha planteado que la gobernanza de la IA debe considerar estos efectos junto con los objetivos de desarrollo sostenible y la protección de las personas más vulnerables.
En conjunto, los debates muestran que la discusión sobre inteligencia artificial ya no pertenece exclusivamente al ámbito tecnológico. Se ha convertido en una cuestión de gobernanza, seguridad, desarrollo y derechos. Lo que se observa es que la dificultad consiste en construir reglas internacionales capaces de reducir los riesgos sin bloquear la innovación, ampliar el acceso sin profundizar dependencias y proteger la democracia frente a la manipulación informativa. El desafío será transformar estos principios en mecanismos concretos de cooperación, supervisión y rendición de cuentas que permitan que la evolución de la IA permanezca vinculada al interés público y a las normas internacionales.
