Inteligencia Artificial para lidiar con los suicidios en Corea del Sur

¿Está la joven del vestido veraniego admirando simplemente la vista desde el puente? Los investigadores y los servicios de emergencia de Corea del Sur buscan respuestas utilizando inteligencia artificial (IA) para detectar y prevenir intentos de suicidio.

Para un ser humano puede ser difícil identificar si hay peligro, pero el sistema de IA aprende patrones de comportamiento mediante el análisis de datos de cámaras y sensores; evaluando detalles como si la persona duda, y pronostica si hay peligro y alerta.

Los expertos de la brigada de rescate acuático creen que así podrán detectar los casos más rápido, mientras monitorean imágenes en tiempo real de los puentes sobre el río Han en Seúl. 

Corea del Sur, con 52 millones de habitantes, tenía en 2019 la tasa de suicidios más alta de la OCDE y en el último año ha aumentado un 37%, durante la pandemia. Más de 13.700 personas se quitaron la vida el año pasado, según datos gubernamentales. Anualmente se informan casi 500 intentos de suicidio en los puentes del Han. Ahora esperan que la tecnología ayude a que la estadística no siga creciendo.

El sistema de IA ha estado aprendiendo patrones de comportamiento mediante el análisis de datos de cámaras, sensores y los registros de despacho de los servicios de rescate desde abril de 2020, con la asistencia técnica del Instituto de Tecnología de Seúl.

Según la información extraída de horas de imágenes de circuito cerrado de televisión (cctv) y evaluando detalles como la vacilación de la persona, la IA puede pronosticar y alertar, dijo el investigador principal Kim Jun-chul.

"Creemos que el nuevo cctv permitirá a nuestros equipos detectar los casos un poco más rápido y nos ayudará a atender una llamada de forma más rápida", dijo Kim Hyeong-gil, a cargo de la Brigada de Rescate Acuático de Yeouido, mientras monitoreaba imágenes en tiempo real de los puentes sobre el río Han.

El equipo de Kim ha estado trabajando con los investigadores para desarrollar la tecnología que su tripulación y la Sede de Incendios y Desastres de Seúl pondrán a prueba desde octubre.

El número de operativos de rescate subió alrededor de 30% en 2020 en comparación con el año anterior y muchos de los intentos fueron realizados por personas de entre 20 y 30 años, ya que la pandemia de coronavirus trajo mayores dificultades económicas y aumentó la carencia de empleo, dijo Kim, de la brigada de rescate. "El sistema aprende de las imágenes, lo que puede generar mejores resultados al reducir en gran medida las falsas alarmas", dijo.

Dos tipos de predicción 

En la última década, los suicidios se han convertido en la principal causa de muerte no natural en España. En 2020 se quitaron la vida diez personas cada día, según los datos del Instituto Nacional de Estadísticas. En otros países, como los EEUU, la tasa de suicidios también es un tema cada vez más presente en el debate público.

El problema al que se enfrentan los intentos de luchar contra esta lacra reside en el hecho de que los métodos tradicionales de predicción de suicidio (como los cuestionarios facilitados por los médicos) son poco precisos. Por ello, tanto empresas tecnológicas como instituciones públicas están poniendo su esperanza en que la IA sea capaz de proporcionar herramientas con las que predecir intenciones suicidas.

Como resultado de los primeros esfuerzos en este sentido, han surgido dos tendencias paralelas sobre el mejor modo de enfocar esta tarea, que Mason Marks, investigador de Derecho de la Información de la Universidad de Nueva York, ha bautizado como "Predicción médica del suicidio". Esta técnica experimental usada por médicos y hospitales para realizar predicciones en base al análisis de los registros de pacientes no es muy utilizada todavía, más allá de un proyecto liderado por el Departamento de Asuntos de los Veteranos de los EE.UU. Dado el contexto en el que se realiza, existen numerosas limitaciones al uso de datos relacionadas con la privacidad.

La “Predicción social del suicidio" no está regulada, por ello es la más usada. Realiza predicciones con base en datos del comportamiento de los usuarios extraídos de sus interacciones en redes sociales o de sus dispositivos inteligentes. Facebook o Twitter, por ejemplo, han puesto en marcha iniciativas al respecto. El Departamento de Asuntos de los Veteranos también cubre este campo a través del análisis de las comunicaciones telefónicas (aunque, dicen, no del contenido de las mismas).

   Mientras llevamos a cabo nuestra rutina diaria, vamos dejando un rastro digital que puede ser analizado. Facebook, por ejemplo, analiza las publicaciones de los usuarios (y de sus amigos) en busca de palabras o frases concretas que correlacionan con pensamientos suicidas.

Facebook publicó un artículo en su blog corporativo explicando el funcionamiento de su plataforma de predicción, y en él relataban los obstáculos con los que debió enfrentarse el sistema de IA que desarrollaron. "Hacer que una computadora reconociera una expresión 'suicida' fue un ejercicio complejo en el análisis de los matices del lenguaje humano, pues numerosas frases que podrían indicar un intento de suicidio -“matar”, “muere”, “adiós”- se utilizan comúnmente en otros contextos. Un ser humano puede reconocer que “tengo tanta tarea que quiero suicidarme” no es un verdadero grito de angustia, pero ¿cómo enseñar a una computadora esa clase de comprensión contextual?

"Para entrenar el sistema de clasificación, fue necesario alimentarlo con toneladas de ejemplos, tanto de lo que estaba tratando de identificar (ejemplos positivos), así como lo que no (ejemplos negativos), para que aprendiera a distinguir patrones propios de cada situación.

Cuando un usuario es clasificado de "alto riesgo", su caso es remitido a la policía estadounidense para que realice un "chequeo de bienestar" en casa del usuario. Algunos meses los avisos de Facebook han llegado a motivar más de 100 chequeos de este tipo al mes.

Crisis Text Line, un servicio de asesoramiento a menores gestionado por una ONG y que se integra en Facebook Messenger y Youtube, ha generado 20 avisos... diarios. Basan su sistema de predicción en el análisis de una enorme cantidad de mensajes intercambiados por los usuarios de estos servicios, de una manera muy parecida a la que usan Amazon o Netflix para realizar sus recomendaciones de contenidos. Parte de los datos recopilados por la ONG están disponibles para su visualización online.

Consecuencias imprevistas

"A primera vista, la predicción social del suicidio parece ser una propuesta ganadora, pues permite a las plataformas online llevar a cabo un servicio público que beneficia a los usuarios y a sus familias. Sin embargo, esta clase de predicciones vienen generadas por algoritmos protegidos como secretos comerciales".

Esta denuncia de Marks reviste gran importancia, pues esta situación no sólo afecta a la privacidad de los usuarios, sino a la posibilidad de evaluar la eficacia del sistema. En algunos casos, incluso una predicción acertada puede causar más daño que beneficios, bien porque la denuncia de Facebook se realice en países donde el intento de suicidio es delito (como Singapur), bien porque desemboque en una hospitalización involuntaria, que (paradójicamente) aumenta la probabilidad de suicidio.

Eso por no mencionar que las predicciones sociales puedan terminar siendo usadas en forma fraudulenta como excusa para vulnerar la inviolabilidad del domicilio (ante sospecha fundada de que existe riesgo de suicidio, los agentes de la ley dejan de necesitar una orden del juez).

Y el acento debe ponerse en la privacidad: "Aunque Facebook afirma que sus predicciones de suicidio no se utilizan para la publicidad, otras compañías menos escrupulosas podrían compartir sus propias predicciones de suicidio con anunciantes, corredores de datos y compañías de seguros", advierte Marks, y propone: “Para proteger los datos de los usuarios, se debe legislar para que cualquier algoritmo destinado a predecir suicidios sea considerado "software de uso médico".