Cómo los algoritmos hackean la mente humana

   En 2017, miles de rohingya fueron asesinados en Myanmar en medio de rumores de que esta minoría musulmana planeaba atacar a la mayoría budista del país. Para muchos investigadores, las grandes plataformas digitales, especialmente Facebook, contribuyeron significativamente al genocidio al no interferir en la difusión de mentiras y odio en sus publicaciones. 

   El libro "La máquina del caos: cómo las redes sociales reprogramaron nuestra mente y nuestro mundo", del periodista Max Fisher narra cómo personas y entidades del país intentaron alertar -incluso personalmente- a los empleados de la empresa de Mark Zuckerberg– sobre lo que estaba sucediendo, sin que se tomaran medidas. Fisher trabajó para periódicos como el Washington Post y el New York Times, la revista The Atlantic y el portal Vox. Hoy forma parte del equipo de la multiplataforma Crooked Media, un nombre irónico: significa "medios distorsionados" en inglés, y es como Donald Trump solía referirse a los medios que publicaban informes críticos en su contra.

   "Facebook sabía que la plataforma estaba incitando a la violencia en Myanmar", cuenta Fisher, para quien, sin embargo, reconocer este papel significaba decir que el algoritmo es capaz de causar algo grave y dañino en cualquier parte del mundo y, por tanto, estar de acuerdo con las frecuentes quejas que llegan de todos los rincones. En 2018, por ejemplo, hubo una crisis de refugiados en la frontera de EEUU con inmigrantes provenientes de Centroamérica. Fisher recuerda que se extendió una ola de desinformación y odio contra los refugiados. "Dijeron que los inmigrantes estaban cometiendo delitos. Incluso el presidente [Donald Trump] compartió esto".

   En su trabajo periodístico, Fisher escuchó a exempleados de grandes empresas de tecnología que informan sobre esfuerzos constantes para maximizar la duración de la estadía de los usuarios. "La intención de las grandes tecnológicas era explícita de crear un mecanismo que fuera tan adictivo como el alcohol y la nicotina", explica. Los contenidos que despiertan indignación suelen tener más interacciones, por lo que un vídeo conspirativo y falso sobre los peligros secretos de las vacunas despertará naturalmente más enojo que un contenido correcto e informativo sobre la importancia de inmunizarse contra una enfermedad. 

   Si tuiteas contenido moralmente escandaloso (publicaciones de ataque o amenazas, por ejemplo), el algoritmo que determina lo que la gente ve en la plataforma se asegurará de que mucha gente vea tu tuit, porque la plataforma promueve la interacción con contenido escandaloso", cuenta. Pero ¿qué explica este comportamiento?

   "Cuando comencé a investigar los efectos de las redes sociales en el mundo, la pregunta era: ¿cómo demostramos científicamente que las redes movilizan el cerebro humano?". En su trabajo de investigación, Fisher buscó estudios científicos que demuestren que el contenido que despierta indignación afecta los instintos de protección humanos. Con la aparición del lenguaje en la evolución (para algunos científicos, hace medio millón de años), los seres humanos comenzaron a unir fuerzas para combatir las amenazas, incluidas las de miembros más fuertes de sus comunidades, que se imponían mediante gritos y violencia, incluso contra la fuerza de la mayoría. Por tanto, el acto de rebelarse contra algo que parece perjudicial para un grupo se siente como una virtud social. Hay estudios que demuestran que reaccionar ante un problema bajo el testimonio de otras personas desencadena con mayor intensidad mecanismos de satisfacción.

   Compartir y participar en información errónea no está relacionado con el nivel de educación de los usuarios, según el periodista, sino más bien con cómo reacciona el cerebro a los hechos en el contexto de una red social. Él diferencia el lado racional de la mente del lado social: el segundo puede anular al primero cuando se expone a datos falsos que causan indignación y necesitan exigir una reacción.

   Fisher no ve soluciones sencillas, pero cree que la sociedad debería ver las redes sociales como una droga legal. "Las redes nos harán adictos y cambiarán la forma en que funciona nuestro cerebro. Necesitamos crear niveles de seguridad y entender cómo reacciona cada persona, como ocurre con el alcohol", explica. Compartió con la audiencia una estrategia que usa en Instagram: "Uso una app que bloquea la aplicación y no puedo acceder a nada. Hay aplicaciones que pueden ayudarnos a limitar nuestra capacidad de utilizar las redes sociales". También recomienda dejar la visualización de la pantalla en blanco y negro, para que el uso del celular sea menos adictivo.

   "Mi mayor preocupación en 2024 es comprender el impacto de TikTok". Se refiere a la proliferación de contenidos que parecen informativos, pero que están llenos de vicios o mentiras, y que se convierten en la principal fuente de conocimiento para algunos de los usuarios que acceden masivamente a la aplicación. "En general, el efecto es negativo. Incluso si se trata de un influencer bien intencionado, no es lo mismo que un medio de comunicación". Fisher valora que el nivel de desinformación generado en TikTok va mucho más allá de lo ya visto en otras redes, y alerta de los riesgos de que niños y jóvenes utilicen la red como principal fuente de información: "Los más jóvenes que leen noticias sólo en TikTok ni siquiera se acercan a la verdad. El odio a la prensa es muy intenso allí y a esta gente se le está enseñando a no volver a leer el periódico ni a ver las noticias nunca más".

*Publicado en Piauí (piaui.folha.uol.com.br/)