La máquina moral, un dudoso experimento

¿Cuáles serán los efectos en la psiquis de las personas si el coche autónomo puede decidir quién vive o muere, o llevar al conductor a la catástrofe?

La pregunta tiene que ver con el progreso de los autos autónomos que -en teoría- nos liberarán del tedio de la ruta cotidiana para que lo dediquemos a la "productividad" (ya no solo se trabajará en la casa, sino también camino a la oficina).

Pero, ¿qué sucede cuando el coche autónomo debe decidir entre chocar a una anciana o a una joven empresaria?, ¿y si la joven es indigente y de color?, ¿qué decisión será la correcta?

Parta el MIT (Instituto de Tecnología de Massachusetts) es válido plantear este tipo de cuestiones, como si la gente pudiesen categorizarse por estatus social o color dentro del código de programación de la Inteligencia Artificial (IA) del auto y -de alguna manera- exonerarnos de culpa.

Hay un sitio en internet desarrollado por científicos del MIT que se llama “La Máquina Moral”. La idea, como ellos la expresan, es tratar de evaluar cómo pensamos los humanos, qué tipo de decisiones morales tomaríamos enfrentados a los mismos datos, cómo varían de acuerdo con diferentes culturas, religiones, etnias, sexo, etc, lo que puede “ayudar” a programar el futuro de los coches autónomos.

La lista de potenciales categorías es muy vasta, pero el objetivo es estudiar el comportamiento humano para poder replicarlo en opciones o alternativas que debería tomar una máquina o, en todo caso, cómo programar máquinas inteligentes usando la IA.

Una de las cuestiones que deberá decidir un coche autónomo ante una falla catastrófica de los frenos y que el MIT llama a responder, bajo el curioso título ¿“Cuánto odia a los desamparados”?: 1.- Seguir derecho y embestir a dos ejecutivas con resultado incierto; 2.- Cruzarse a la otra mano y matar a dos indigentes.

Cómo funciona

En el sitio, que también tiene una opción en español (https://www.moralmachine.net/hl/es), se exponen los dilemas morales que se plantean a la IA de un automóvil: elegir el menor de dos males, como la decisión de matar a dos pasajeros o a cinco peatones, qué incidencia debería tener la edad de las potenciales víctimas. Aunque parezcan problemas teóricos, no lo son.

Una vez completadas las preguntas, se puede comparar con las que seleccionaron todas las otras personas que participaron del experimento. Son preguntas que configuran una suerte de perfil del encuestado, de manera de decirle -llegado el caso- al programa de computación del auto que la gente prefiere mayormente embestir a un anciano pobre que a una mujer empresaria y joven, por ejemplo.

¿A cargo de quién quedará la toma de este tipo de decisiones? ¿El conductor podrá programar su vehículo de acuerdo con su ética? ¿O lo harán las compañías fabricantes? ¿Variará el programa si el auto circula por Nueva York o si lo hace por el Chaco? ¿Qué incidencia deberían tener los legisladores? ¿Cuán reguladas pueden/deben estar estas decisiones?

Otro de los dilemas morales de un coche autónomo con desperfectos en los frenos. La decisión no debería depender de un código de computadora: 1.- Embestir y matar a cinco perros; 2.- Desviarse, chocar contra una barrera y matar a los pasajeros del propio auto.

¿Existen máquinas “morales”?

Algunos observadores críticos indican que el sitio comienza engañando, haciendo creer que se está ayudando a diseñar un vehículo inteligente y moral. Una de las críticas al sistema de coches autónomos es que no existen las "máquinas morales", que solo los humanos ejecutan actos intencionales, y que no todos tienen la misma percepción acerca de lo que es bueno y lo que es malo y de las consecuencias de sus actos. No hay vehículos "inteligentes" sino programados, sea de manera rígida o flexible (que ajustan sus decisiones basados en la acumulación de datos).

El método del MIT para saber a quiénes prefiere descartar la sociedad no necesariamente arroja luz sobre las mejores decisiones a programar. Los principios éticos y valores son los que juegan, y la acumulación de datos nunca llegará a formar una “ética”. ¿Saber qué prefiere la gente alcanza para definir una norma moral? ¿Y una legal? Similar debate se plantea en la medicina sobre a quién puede/debe darse la oportunidad de vivir en una emergencia: ¿a la madre parturienta o al hijo por nacer?

Otra cuestión es la de la responsabilidad. Los seres humanos son responsables de sus actos, pero la industria requiere cobertura legal para sobrevivir a las demandas y evitar responsabilidades. ¿Será que haciendo participar a la gente se le da base para afrontar los conflictos inevitables?

Se elige matar a los viejos o a las mujeres porque la gente así lo prefiere, o viceversa? Lo interesante es que con alguna línea de código adicional se puede elegir el color del desafortunado y adaptar la IA a países como Suecia o Sudáfrica para saber si -llegado el caso- se prefiere embestir a más personas de color que a otras.

Todas son preguntas sin respuesta, mientras la industria sigue recolectando datos tratando de programar una “ética del automóvil” que decidirá el futuro de las personas.

Sitio del MIT en español con el test “La Máquina Moral”.