Inteligencia artificial y violencia digital

Uno de esos desafíos es cómo prevenir o desalentar, o incluso sancionar, el uso de tecnologías de IA para generar imágenes falsas de la intimidad que afectan a menores y adolescentes. Este tipo de violencia digital tiene consecuencias graves en la vida emocional, social y psicológica de niños, niñas y adolescentes que la padecen.

La creación y difusión de imágenes íntimas manipuladas sin consentimiento es una violación a la dignidad de las personas, y exige una respuesta firme y actualizada por parte del sistema judicial. Un caso reciente ocurrido en Córdoba muestra la gravedad de esta problemática. La Justicia de la provincia mediterránea elevó a juicio el caso de un joven de 19 años acusado de utilizar técnicas de inteligencia artificial, específicamente "face swapping", para manipular imágenes sexuales de al menos 16 compañeras de colegio y publicarlas en sitios para adultos. Las imágenes fueron tomadas de redes sociales como Instagram y Whatsapp, y luego alteradas para simular actos en los que las adolescentes nunca participaron. El contenido, además, fue acompañado por comentarios degradantes y misóginos. Este caso representa un hecho inédito en el país y puede sentar un precedente clave para futuros procesos judiciales vinculados a delitos digitales de carácter sexual. La Fiscalía de Violencia Familiar y de Género de Córdoba investiga el hecho bajo perspectiva de género, reconociendo la violencia psicológica, sexual y simbólica ejercida sobre las víctimas.

Las técnicas denominadas "face swapping", aunque inicialmente fueron desarrolladas con fines recreativos o artísticos, se convirtieron en herramientas peligrosas en manos equivocadas. Estos sistemas detectan características faciales y permiten reemplazar digitalmente el rostro de una persona por el de otra, generando imágenes o videos que, aunque falsos, resultan verosímiles y extremadamente realistas. En el caso de menores y adolescentes, este tipo de contenido vulnera su privacidad y puede provocar un daño emocional grave, afectar su desempeño escolar, sus vínculos sociales y su bienestar psicológico.

Muchas veces, las víctimas enfrentan sentimientos de vergüenza, miedo, aislamiento y desconfianza, lo que confirma la necesidad de una intervención sin demoras de la justicia y el acompañamiento institucional. Lo que sucede es que la falta de legislación específica sobre estas prácticas en muchos países deja a los sistemas judiciales con herramientas limitadas para abordar situaciones tan complejas. Aunque en Argentina existen figuras penales que permiten imputar a los responsables por lesiones, distribución de material sexual no consentido o incluso tenencia de pornografía infantil, todavía hay un vacío legal en relación con la manipulación digital de imágenes mediante técnicas sofisticadas de inteligencia artificial. Por esta razón, el juicio que se llevará adelante en Córdoba es observado con especial atención, ya que podría constituir un punto de inflexión en la forma en que se abordan y sancionan este tipo de delitos. La protección de la integridad digital de los menores y adolescentes no puede depender únicamente de respuestas espasmódicas ante hechos consumados. Es fundamental promover una educación digital crítica que permita a los jóvenes entender los riesgos de compartir imágenes en línea, reconocer señales de violencia digital y saber cómo actuar. Del mismo modo, las plataformas tecnológicas deben asumir un rol más activo en la detección y eliminación de contenido falso o manipulado, así como en la cooperación con la Justicia.

Es indispensable que las políticas públicas, el sistema educativo y el Poder Judicial trabajen de manera articulada para crear entornos digitales seguros y respetuosos. La violencia digital no es menos grave por suceder en el ámbito virtual, ya que sus efectos son tangibles, duraderos y, en muchos casos, irreversibles. Reconocer esta realidad es el primer paso para construir un marco legal, social y ético que esté a la altura de los desafíos que imponen estos tiempos donde la inteligencia artificial desempeña un papel muy importante en muchas áreas. También es necesario repensar qué significa el consentimiento en la era digital. Aunque las imágenes originales utilizadas por el acusado fueron obtenidas de perfiles públicos o conversaciones privadas, su manipulación posterior para crear contenido no autorizado constituye una violación grave a los derechos de las víctimas. Este tipo de agresiones confirman la importancia de establecer límites claros sobre el uso de imágenes personales, incluso cuando estas ya se encuentran en circulación en redes sociales.