Intentos de frenar la desinformación en redes sociales

   Entre las principales propuestas destaca la prohibición del acceso a las redes sociales a los menores de 16 años, la obligación de implantar sistemas de verificación de edad y el establecimiento de responsabilidades penales para los directivos de las grandes plataformas tecnológicas.

   El presidente del Gobierno español, Pedro Sánchez, presentó estas iniciativas durante su intervención en el Global Governments Summit celebrado en Dubái, donde alertó sobre el poder creciente de las redes sociales y su impacto en la democracia, la convivencia y la seguridad de los menores. Según el Ejecutivo, estas plataformas se han convertido en espacios donde, con frecuencia, se toleran delitos, discursos de odio y campañas de desinformación, impulsadas en muchos casos por sistemas automatizados.

Prohibición del acceso a menores y verificación de edad

  Una de las medidas más relevantes es la prohibición expresa del acceso a las redes sociales a los menores de 16 años. Esta iniciativa se incorporará al Proyecto de Ley de Protección de Personas Menores en Entornos Digitales, actualmente en tramitación parlamentaria. Las plataformas estarán obligadas a implantar mecanismos fiables de verificación de edad para impedir el registro y uso por parte de menores.

   El objetivo es reducir la exposición de niños y adolescentes a contenidos perjudiciales, como la pornografía, la violencia, el acoso digital o los mensajes extremistas. Además, el Gobierno considera que los algoritmos de recomendación fomentan patrones adictivos que afectan al desarrollo emocional y psicológico de los jóvenes.

   España participa también en un proyecto piloto europeo para probar sistemas de verificación de edad, y forma parte de un grupo de países que pretende impulsar regulaciones más estrictas, incluso al margen de la Unión Europea si fuera necesario.

Responsabilidad penal para las plataformas

   Otra medida clave anunciada por Sánchez es la introducción de responsabilidad penal para los máximos responsables de las plataformas digitales cuando no retiren contenidos ilegales. A través de una ley orgánica, el Gobierno pretende que directivos como Elon Musk o Mark Zuckerberg puedan enfrentarse a procesos judiciales si permiten la difusión de material ilícito, como pornografía infantil, incitación al odio o desinformación masiva.

   Asimismo, se plantea tipificar como delito la manipulación deliberada de algoritmos con fines políticos, económicos o ideológicos, siguiendo el modelo aplicado en Francia desde 2023. Esta regulación busca frenar el uso de sistemas automatizados para amplificar mensajes falsos o polarizantes.

   En paralelo, se prevé la creación de un sistema de rastreo que permita medir y cuantificar la presencia de odio y polarización en las plataformas. A través de una "Huella de Odio y Polarización", el Gobierno elaborará rankings que evalúen el comportamiento de cada red social en función de estos indicadores.

Inteligencia artificial y expansión de noticias falsas

   Uno de los aspectos más preocupantes para las autoridades es el papel de la inteligencia artificial en la generación masiva de contenidos falsos o manipulados. El Ejecutivo ha instado a la Fiscalía a investigar posibles delitos cometidos por sistemas como Grok (de la red X), así como por plataformas como Meta o TikTok.

   Según datos oficiales, Grok habría generado millones de imágenes sexualizadas, incluidas miles con apariencia de menores, lo que ha provocado investigaciones tanto en España como en Bruselas. Estos casos ilustran cómo la IA puede facilitar la producción de material ilegal en gran escala, dificultando su control.

   Además, la IA se utiliza cada vez más para crear vídeos, imágenes y supuestos informativos que simulan medios de comunicación reales. Este fenómeno incrementa el riesgo de engaño y erosiona la confianza pública en las fuentes tradicionales.

   Pedro Sánchez ha advertido de que "la desinformación no surge de la nada", sino que responde a estrategias organizadas que aprovechan las debilidades de los sistemas digitales. En su discurso, citó ejemplos de campañas contra la inmigración y de bulos difundidos por figuras influyentes a través de estas plataformas.

TikTok y el contenido generado por IA

   Un informe reciente de la organización AI Forensics reveló la magnitud del problema en TikTok. Según la investigación, más de 350 cuentas automatizadas publicaron decenas de miles de vídeos creados con IA que alcanzaron miles de millones de visualizaciones en apenas un mes. Muchos de estos contenidos eran sexualizados, falsos o abiertamente xenófobos.

   Algunas cuentas publicaban hasta 70 vídeos diarios, con el objetivo de manipular el algoritmo y aumentar sus probabilidades de viralización. La mayoría de estos perfiles fueron creados en 2025 y operaban de forma casi industrial.

   El informe también denuncia que gran parte del contenido generado por IA no estaba correctamente etiquetado, lo que dificultaba su identificación por parte de los usuarios. Menos del 2 % de los vídeos incluían la etiqueta oficial que indica que han sido creados artificialmente.

   Entre los formatos más frecuentes se encontraban falsos informativos con logos de cadenas reconocidas, cuerpos femeninos hipersexualizados y vídeos que aparentaban ser testimonios reales. En algunos casos, incluso se utilizaban imágenes de niñas o adolescentes.

   Aunque TikTok asegura haber eliminado numerosas cuentas tras la publicación del informe y afirma invertir en moderación y tecnologías de detección, los investigadores consideran que las medidas actuales son insuficientes.

"Slop" digital y la saturación informativa

   Otro fenómeno creciente es el llamado "slop": contenidos creados por IA sin coherencia, diseñados únicamente para generar tráfico. Desde animales compitiendo en falsas olimpiadas hasta bebés hablando, estos vídeos saturan las plataformas y reducen la visibilidad del contenido humano genuino.

   Si bien parte de este material puede resultar inofensivo o entretenido, su proliferación contribuye a la degradación del ecosistema informativo y facilita la propagación de mensajes engañosos.

  Además, muchas de estas cuentas buscan monetizar sus vídeos mediante publicidad encubierta, promoción de suplementos o venta de herramientas para generar contenido viral, lo que agrava los riesgos para los usuarios.

La respuesta de la Unión Europea

   La Unión Europea avanza en una línea similar a la de España. La presidenta de la Comisión, Ursula von der Leyen, anunció la creación de un panel de expertos para evaluar medidas que restrinjan el acceso de menores a las redes sociales.

   Von der Leyen subrayó que estas plataformas están diseñadas para "enganchar" a los niños mediante algoritmos manipuladores, orientados a maximizar beneficios. También alertó sobre problemas como el ciberacoso, la incitación a la autolesión y la presencia de depredadores en línea.

   Desde el verano, varios países —entre ellos España, Francia, Grecia, Dinamarca e Italia— prueban sistemas de verificación de edad. Además, una propuesta liderada por Grecia, Francia y España plantea establecer límites de edad comunes, controles parentales obligatorios y normas para reducir la adicción digital.

   La Comisión ha abierto expedientes a TikTok, Instagram y Facebook por fallos en la protección de menores, en virtud de la Ley de Servicios Digitales (DSA). Asimismo, investiga a plataformas de contenido para adultos por permitir el acceso a menores.

   Bruselas también analiza el impacto de los sistemas de recomendación de YouTube, Snapchat y TikTok en la salud mental, especialmente en adolescentes.

Un desafío global

   El debate europeo se inscribe en un contexto internacional más amplio. Australia, por ejemplo, aprobó una ley que prohíbe el acceso a redes sociales a menores de 16 años y contempla multas millonarias para las empresas que incumplan la norma.

   Para el Gobierno español, estas iniciativas reflejan una tendencia global hacia una mayor regulación del entorno digital. Sánchez ha insistido en que el enorme poder económico de las plataformas no debe ser un obstáculo para exigirles responsabilidades.

    "El abandono no es una opción", afirmó el presidente, en referencia a quienes sugieren simplemente dejar de usar redes sociales. Para muchos ciudadanos, especialmente los jóvenes, estas plataformas forman parte esencial de su vida cotidiana. Por ello, considera imprescindible recuperar el control democrático sobre el espacio digital.

   España se sitúa a la vanguardia europea en la regulación de las redes sociales, con medidas que buscan proteger a los menores, frenar la desinformación y limitar los abusos derivados de la inteligencia artificial. La prohibición de acceso a menores de 16 años, la responsabilidad penal de los directivos y la investigación de contenidos generados por IA constituyen los pilares de esta estrategia.

   Al mismo tiempo, la Unión Europea avanza hacia un marco común que refuerce la protección infantil, la transparencia algorítmica y la rendición de cuentas de las plataformas. Sin embargo, el rápido desarrollo tecnológico y la expansión del contenido automatizado plantean desafíos constantes.

   El éxito de estas políticas dependerá no solo de las leyes, sino también de la cooperación internacional, la capacidad de supervisión y la implicación de las propias plataformas. En un entorno digital cada vez más dominado por la inteligencia artificial, el reto será garantizar que la innovación no se imponga sobre los derechos, la seguridad y la verdad.