Para ver esta nota en internet ingrese a: https://www.diarionorte.com/a/193429

Doctor Juan G. Corvalán Prometea: Derecho + Inteligencia Artificial

Juan Gustavo Corvalán es Fiscal General Adjunto en lo Contencioso Administrativo y Tributario ante el Tribunal Superior de Justicia de la Ciudad Autónoma de Buenos Aires.

Por Pablo Silvestri Raffin

Juez por concurso de oposición y antecedentes de la Justicia Contencioso Administrativo y Tributaria de la Ciudad Autónoma de Buenos Aires, en uso de licencia. Doctor en Derecho. Co-Director del Laboratorio de Innovación e Inteligencia Artificial de la Facultad de Derecho de la Universidad de Buenos Aires. Post doctorando en la Universidad de París 1 Panthéon-Sorbonne y profesor visitante en la misma Universidad. Director del Programa de Actualización en Inteligencia Artificial y Derecho en la Facultad de Derecho de la Universidad de Buenos Aires. Profesor de grado y posgrado en la Universidad de Buenos Aires, Universidad Austral, Universidad Nacional de Rosario, Universidad Nacional del Sur, Universidad Nacional de Tucumán, Escuela del Cuerpo de Abogados del Estado de la Procuración del Tesoro de la Nación y Universidad Nacional de La Matanza, entre otras. Ha presentado a Prometea en la ONU, en la OEA, en el MIT, en Oxford, en la Agencia de Protección de Derechos Fundamentales de la Unión Europea, entre otras instituciones y universidades. Autor de 6 libros y más de 100 artículos de doctrina.

juan3.jpg
Disertación en la ONU.

¿CÓMO NACIÓ EN VOS EL INTERÉS POR TRABAJAR CON LA TECNOLOGÍA?

Desde muy chico era inquieto y explorador. En Cutral-Có, una ciudad Neuquina, viví hasta los 17 años y medio. A los 15 me compré un libro de Buda, miraba la televisión haciendo la vertical y otras anécdotas que probablemente reflejen esa energía un tanto incontenible para mis padres, que hoy se traduce en un impulso por transformar e innovar. Por ejemplo, en 2014 creamos Trivialex, una plataforma tipo preguntados jurídico en la tienda de Google. Armamos todo un movimiento de Derecho para innovar con Darío Barassi (Derecho a la fama), obra de teatro incluida, videos con animación 3D y whiteboard animation que tienen miles de visitas en Youtube (Cambia tu universidad). Fuimos los primeros en transmitir on line y en vivo las Jornadas de Derecho Civil y teníamos un formato que se llamaba Derecho en 15 segundos antes que nacieran las historias de Instagram.

Llegué al mundo de la inteligencia artificial hace poco más de cinco años porque estaba escribiendo algunos borradores e investigando sobre física cuántica. Inmediatamente, entendí que la IA estaba cambiando el mundo. El punto de inicio fue un lugar común: ¿Nos desemplean los robots y las máquinas? Viajamos a la Corte Interamericana de Derechos Humanos y en el Instituto de Derechos Humanos en Costa Rica di una conferencia sobre ese tema. A partir de ahí, gran parte de mi vida discurre por escribir, estudiar, investigar, enseñar y co-crear cosas basadas en IA para mejorar nuestras vidas y las organizaciones. Estoy convencido de lo contrario a lo que me imaginé en un inicio: la IA creará más trabajo que el que eliminará, aunque eso no signifique que tengamos muchos grandes desafíos por delante y personas que cuidar en la transición (sobre esto escribimos un libro que se puede descargar en: https://ialab.com.ar/wp-content/uploads/2019/09/IAyT.pdf)

El libro que más me marcó es La singularidad está cerca de Ray Kurzweil, el director de ingeniería de Google. En un momento, caí en la cuenta de que esta Cuarta revolución industrial cambiaría todo y quería ser parte de la ola.

juan.jpg
Disertación en la OEA.

¿CÓMO FUE EL PROCESO DE CREACIÓN DE PROMETEA?

Prometea es el resultado de un proceso de acumulación de factores. Primero, la Fiscalía de la CABA siempre ha sido pionera en la innovación. Germán Garavano, luego Luis Cevasco y ahora Juan B. Mahiqués. Aunque fue Luis Cevasco quien nos dio todo el apoyo y la confianza para que avancemos, no hubiese sido posible en otra organización y, por suerte, el nuevo Fiscal ha jerarquizado el proyecto, al crear una oficina de inteligencia artificial.

Desde 2016 veníamos trabajando en un plan estratégico basado en la Inteligencia Artificial, y en un evento me encontré con los programadores Ignacio Raffa y Nicolás Vilella, que habían diseñado el Trivialex (nuestro preguntados legal). Con ellos iniciamos un camino, en donde nos acompañó un gran equipo, para trabajar bajo una lógica en la que la máquina mejore lo que hacemos y no que nos reemplace. Como teníamos el trabajo organizado, medido y sistematizado, pudimos hacerlo, aunque el diferencial es el trabajo en equipo, la pasión y la dedicación. Además de las tareas cotidianas, trabajamos 14 a 15 horas por día y el fin de semana estábamos dedicados de lleno a eso. Aunque fue hace 3 años y medio, en ese momento hablarle a un celular para trabajar era como encontrarte con un extraterrestre.

juan2.jpg
Junto a la presidenta de los Tribunales Administrativos del BID y del Banco Mundial y el presidente de la Corte Interamericana de Derechos Humanos.

El esfuerzo valió la pena porque el sistema, literalmente, se conoció en todo el mundo. Es el primer sistema predictivo de Iberoamérica y uno de los primeros del mundo que funcionaba en la realidad. Gracias al impulso de Prometea, creamos en el ámbito de la Universidad de Buenos Aires, el primer Laboratorio de Inteligencia Artificial en una Facultad de Derecho de Iberoamérica y también el primer posgrado de Inteligencia Artificial y Derecho de Iberoamérica. En el Laboratorio estamos con muchos proyectos. Hemos colaborado con el MIT, fuimos invitados a la Cumbre Mundial de IA que organiza la ONU, trabajamos con equipos que están en el Laboratorio de Innovación de Harvard y también tenemos proyectos en común con Cortes de Justicia y con organismos y bancos internacionales como el BID y CAF.

En la Revista Rutina de El País que dedicó 5 páginas al trabajo realizado expresaron en su momento que el uso de Inteligencia Artificial en la justicia ofrece dudas éticas. ¿Podemos decir que las dudas están despejadas o nunca existieron?

Creo que las dudas éticas seguirán creciendo, a medida que la inteligencia avance en el Sector Público. Nuestros sistemas están diseñados para que los humanos tomen decisiones y no las máquinas. Si Netflix me dice que me gustará La casa de Papel en un 95%, eso lo decidió una máquina y probablemente no nos importe ni afecte derechos. Ahora, si dejo que una máquina tome una decisión y no puedo explicar en su totalidad cómo llega a ella (la lógica del procesamiento de datos), entonces las cosas son muy diferentes. Predecir si una persona tiene cáncer con una máquina, no es lo mismo que el descubrimiento semanal de Spotify.

juan4.jpg
Máximas autoridades del Consejo de Estado Francés.

Y acá aparece un tema crítico: los sistemas de inteligencia artificial aprenden de la historia, y esa historia puede ser una de discriminación. Es decir, si los jueces en EEUU les conceden más las salidas condicionales a personas de raza blanca, entonces la máquina aprenderá eso y lo reproducirá, sino se hace algo al respecto. Con estos dos ejemplos te resumo dos grandes desafíos. Primero: cómo las personas se ocupan de seleccionar los datos sobre los que la IA aprende. Hay que trabajar mucho para reducir los riesgos de que las máquinas aprendan de datos o información discriminatoria, falsa o no representativa de ciertas cuestiones que nos interesa proteger.

Lo segundo, es que es fundamental que las personas sean las que tomen las decisiones respecto de los resultados de un sistema de IA cuando se trata de cosas importantes para la comunidad.

libro.jpg
Prometea. Libro publicado por el BID.
libro2.jpg
Nuevo libro del doctor Juan Corvalán.

Tanto en la Fiscalía como en el Laboratorio de Inteligencia Artificial de la UBA, trabajamos para que la inteligencia artificial sea varias cosas juntas: explicable, trazable complementaria, inclusiva y siempre pensando en mejorar las capacidades de las personas. Es clave que los funcionarios o las personas que tienen el rol (la competencia), supervisen el entrenamiento y, además, siempre tiene que existir una revisión o control humano sobre lo que la máquina sugiera.

El Director de Gobierno Digital de la ONU nos prologó un libro. Ahí él habla de inteligencia aumentada como resultado de combinar inteligencia humana más IA. Nosotros creemos en eso y además nos gusta hablar de automatización que humaniza y de mejora de la eficiencia. Todo eso resume la forma en la que abordamos la Inteligencia Artificial.

Juan, sos un profesional muy joven, en tu haber hay más de 117 publicaciones, trabajos científicos y académicos en el ámbito nacional e internacional y 174 Cursos de posgrado, seminarios, congresos, jornadas y otros cursos también en el país y en el exterior. En 2017 fuiste el primer autor latinoamericano en publicar en la Sección de Estudios del Consejo de Estado Francés: El Algoritmo y los Derechos Humanos. ¿Hacia dónde vas?

Estoy terminando otro libro sobre IA. Un capítulo trata sobre lo que nos hace humanos. Entre muchas diferencias que tenemos con las máquinas, hay una que es muy profunda: nosotros tenemos propósito o, al menos, nuestra vida suele discurrir en su búsqueda. De hecho, cuando nos falta, solemos estar desorientados, perdidos o incluso deprimidos.

Hoy no estoy yendo a ningún lugar. Estoy disfrutando plenamente lo que hago. El tanque de propósito está lleno. Sin embargo, esto no siempre fue así. Vine del interior para estudiar en la mejor Universidad de Iberoamérica. Ingresé como meritorio al Poder Judicial a los 17 años y medio, antes de cursar el CBC. Trabajé 3 años gratis para el Estado. En algunos momentos, me sentía un autómata y en varios pasajes el tanque del propósito estaba en reserva. Muchas veces, me sentí copiador y pegador serial de datos, mientras Kafka y El Proceso eran una sombra recurrente. Innovar, dar respuestas más rápidas, humanizar el trabajo, y mejorar organizaciones. Todo eso me hace valorar mucho los lugares y sombreros que hoy tengo. Trabajo con gente que es brillante y genial. Intento aprender todo el tiempo de buenas personas, inteligentes y apasionadas por cambiar las cosas para mejor. Creo mucho en el trabajo multidisciplinario, colaborativo, flexible y ágil. Tenemos un largo camino por desaprender y aprender de forma permanente en un mundo que atraviesa una pandemia y, al mismo tiempo, la Cuarta Revolución Industrial.