Nuevos desafíos para la escuela
Los sistemas de inteligencia artificial están cada vez más presentes en distintos órdenes de la vida cotidiana.
Cuando una cámara de seguridad vial reconoce la patente del vehículo en el que viajamos, o en el momento en el que la plataforma que utilizamos para ver películas en nuestros hogares nos recomienda una serie, esas acciones son guiadas por programas de IA que ayudan a resolver determinados problemas. También la escuela enfrenta nuevos retos ante el uso, cada vez más frecuente, de estas herramientas por parte de los estudiantes.
"Nadie puede hoy ser indiferente a la inteligencia artificial. Nadie puede decir que no le importa porque no la utiliza. Nadie puede argumentar que es ajeno porque no le interesa. La IA ya está en nuestras vidas. Y toma no pocas decisiones". Así lo advierte la doctora en Comunicación, Roxana Morduchowicz, en su libro "Inteligencia artificial: ¿necesitamos una nueva educación?", que fue presentado ayer en nuestro país por la UNESCO, el organismo de la ONU especializado en temas relacionados con la educación, la ciencia y la cultura. La autora de esa obra remarca que la inteligencia artificial no es neutra y que uno de los nuevos desafíos que tiene por delante el sistema escolar es promover una mirada más crítica hacia la información generada por esta nueva tecnología. "Los algoritmos son entrenados con una población inicial. Muchas veces, la información de esa población, que sirve para calibrar el algoritmo, está sesgada y los resultados son erróneos y discriminatorios. Si la IA arroja como conclusión que las personas no aptas para recibir un crédito bancario, pertenecen siempre a un determinado género, clase social, edad o ideología, estará discriminando", advierte Morduchowicz en la obra.
En rigor, la UNESCO viene trabajando sobre este tema hace ya bastante tiempo. En otra de sus recientes publicaciones pone la lupa sobre los sesgos de los programas de inteligencia artificial. En ese sentido, propone realizar un simple ejercicio para comprobarlo. Se trata de escribir en un motor de búsqueda de internet "los mejores líderes de todos los tiempos". Lo más probable, señala el organismo, es que el resultado muestre una lista de las personalidades masculinas más destacadas del mundo. ¿Cuántas mujeres se pueden encontrar en los resultados de esa simple búsqueda? Pero eso no es todo. Propone también hacer una búsqueda de imágenes con la palabra "colegiala". Debido a los sesgos de género, el buscador mostrará en primer lugar páginas web con mujeres y chicas con todo tipo de disfraces sexualizados. Pero en cambio, si se escribe "colegial", los resultados mostrarán principalmente jóvenes estudiantes comunes. Ningún chico o muy pocos aparecerán sexualizados. Estos, dice la UNESCO, son ejemplos de sesgos de género en la inteligencia artificial, resultado de representaciones estereotipadas profundamente arraigadas en nuestras sociedades. ¿Cómo se explica este fenómeno? Según los expertos del organismo de la ONU, la tecnología que emplean los motores de búsqueda no es neutral, ya que procesa macrodatos y prioriza los resultados con la mayor cantidad de clics dependiendo tanto de las preferencias del usuario como de la ubicación. Por lo tanto, un motor de búsqueda puede convertirse en una cámara de resonancia que mantiene los prejuicios del mundo real y afianza aún más estos prejuicios y estereotipos en línea. Ante esta realidad, la UNESCO propone que los desarrolladores de esta tecnología eviten los sesgos de género o al menos los minimicen en el desarrollo de algoritmos, en los grandes conjuntos de datos utilizados para su aprendizaje y en el uso de la IA para la toma de decisiones.
Volviendo a los desafíos que enfrenta la escuela, los docentes observan que cada vez son más los chicos que utilizan programas de IA para realizar las tareas escolares. Frente a esto, el libro "Inteligencia artificial: ¿necesitamos una nueva educación?", plantea la necesidad de promover en las aulas el pensamiento crítico y creativo. Es decir, que los estudiantes comprendan que la simple acción de copiar y pegar un contenido no contribuye a los verdaderos objetivos que persigue el proceso de enseñanza-aprendizaje. Los alumnos y las alumnas deben cuestionar las informaciones que brindan los programas de IA y, al mismo tiempo, desarrollar capacidades para preguntar una y otra vez si hay algo que no queda claro o aparecen contenidos que pueden contener sesgos. Y en este proceso de aprendizaje, la escuela, por supuesto, tiene mucho para aportar.
