Para ver esta nota en internet ingrese a: https://www.diarionorte.com/a/199096

“Deep fakes”, vuelta de tuerca a las noticias falsas

Los últimos años estuvieron marcados por el auge y la preocupación ante las noticias falsas.

WhatsApp Image 2020-11-29 at 3.03.06 AM.jpeg
Según el desafío que realizó Facebook, los algoritmos para descubrir deep fakes alcanzan un acierto del 65%. Es alentador, pero está lejos de ser la solución.

Gigantes de Internet y gobiernos buscan soluciones a uno de los grandes males de los tiempos que corren y tal vez la amenaza más seria a los sistemas democráticos y la seguridad de las personas: masas sociales siendo desinformadas maliciosamente, algo que puede llegar a tener consecuencias fatales, como sucediera en la India recientemente cuando una decena de personas perdieron la vida luego de que se viralizaran sus imágenes en WhatsApp como supuestos secuestradores de niños.

Esta tendencia tuvo su vuelta de tuerca con la llegada de los deepfakes, videomontajes extremadamente realistas, en forma de falsos vídeos porno protagonizados por famosas creados gracias a algoritmos de aprendizaje automático como TensorFlow. No se trata de videos retocados sino de verdaderas presentaciones casi imposibles de descubrir realizadas con sofisticados programas de Inteligencia Artificial al alcance de quienes tengan el suficiente dinero para contratar su uso, sobre todo en la Deep Web.

CAMPAÑA SUCIA

Estos videos artificiales abrieron la caja de Pandora y adelantan lo que será el futuro de las noticias falsas: deepfakes usados para difundir falsos mensajes. Es desinformación “adictiva y tóxica” que sube de nivel cuando se aplican a la política y la economía, señalan los expertos. ¿Quién podría identificar -sobre todo a ojo inexperto- un economista o político haciendo afirmaciones totalmente opuestas a lo que propone en público? Son sutiles mensajes que pueden deslizarse entre los comentarios de campaña como notas al margen y eso tiende a volverlos más creíbles para una gran mayoría que no está entrenada en el consumo masivo de noticias.

WhatsApp Image 2020-11-29 at 3.02.53 AM.jpeg
El ex presidente Obama (el actor Jordan Peele) diciendo que Trump era un completo idiota y el análisis que revela las inconsistencias.- Fue la primer alerta seria sobre el peligro de las deep fakes.

El Center for a New American Security (CNAS), organización estadounidense sin ánimo de lucro que promueve asuntos de seguridad entre la clase política publicó en Julio un estudio sobre usos de la Inteligencia Artificial relacionados con la seguridad nacional de ese país. Dijo sobre los deepfakes que es posible que en menos de cinco años puedan engañar a oídos y ojos no entrenados con tal de “difundir contenido falso, engañoso o hiperpartidista”.

ALERTA EUROPEA

“Los deepfakes son actualmente el uso más conocido de la IA (Inteligencia Artificial) como vector de ataque”, avisa Europol en un informe elaborado junto a junto al UNICRI (‘Instituto Interregional de Investigación sobre Justicia y Crimen de las Naciones Unidas’) y Trend Micro donde urge a las instituciones europeas a actuar para prevenir los posibles peligros de la inteligencia artificial y en concreto de los deepfakes.

Ante ellos, el informe no solo advierte de los posibles riesgos sino que solicita la creación de una nueva tecnología de detección para mitigar en el futuro el riesgo de estos deepfakes y su posible uso para desinformar o extorsionar. Sean videos falsos de políticos conocidos o simplemente campañas de desinformación, la Policía Europea espera que estos deepfakes sean cada vez más avanzados y alerta que habría que actuar ya. “

Se espera que los individuos y grupos detrás del abuso de deepfakes adapten su modus operandi con el objetivo de evadir la detección y entrenen sus modelos siguiendo las medidas de contradetección”, explica el informe. Pero detrás de la sofisticación para generar videos falsos está su debilidad. Las mismas técnicas que los generan se puden emplear para la detección aunque es sabido que las desmentidas siempre llegan tarde y no a todos los engañados.

UN PASO DETRÁS

Por el momento, la tecnología para detectar deepfakes está por detrás de la propia tecnología para crearlos. En junio de este año, Facebook publicó los resultados de su Deepfake Detection Challenge, una especie de concurso donde utilizaron algoritmos para detectarlos. En total de presentaron más de 35.000 algoritmos, de entre los cuales el mejor terminó con una precisión de apenas el 65%.

¿Cómo detectar un deepfake?

Según Europol hay que fijarse en sombras o iluminación extraña, ruido de fondo exterior en un vídeo interior, cambios repentinos en el fondo y otros detalles. También en inconsistencias del sujeto del video como falta de parpadeo o parpadeo irregular, desajuste entre los tonos de piel facial y corporal, discordancia entre el movimiento de los labios y el audio y otros detalles.

WhatsApp Image 2020-11-29 at 3.02.37 AM.jpeg
Una aplicación china consigue colocar el rostro del usuario en las películas mediante la Inteligencia Artificial. La app fue prohibida en la distribución de Android en occidente. De todas maneras es complicada y lenta de utilizar.

Claramente una tarea enorme para frenar la avalancha de deepfakes que podríamos ver en países como el nuestro con un proceso electoral que esta a pocos meses de comenzar y una sociedad no entrenada en las trampas sobre las que camina cuando navega por Internet y sin entrenamiento en el consumo de noticias.

Educación contra la mentira

Deep Fake; “El lugar en el que todo parece posible, pero nada es lo que parece”. Algo que puede combatir las deep fakes mas elaboradas son el sentido común y la educación. Se recomienda no reenviar videos que nos resulten demasiado sensacionales sin verificar su origen. Cuanto más explosiva sea una noticia o declaración más debería alertarnos de su credibilidad.

En EEUU los usuarios de Whatsapp y Facebook que difunden noticias falsas son bloqueados aunque desconozcan que forman parte de una elaborada red de engaños. Pero tecnología contra los deepfakes, y es muy antigua, cara de implementar y no interesa a determinados sectores. Se llama educación pública de calidad para tener una sociedad y bien informada, que no se trague la primera patraña que le pasan por las redes sin el más mínimo atisbo de pensamiento crítico.