¿Revolución en la política social o salto hacia la vigilancia masiva?

   En el centro del debate público argentino ha irrumpido una propuesta que mezcla promesas de modernización estatal con advertencias de distopía tecnológica: la creación de un "gemelo digital social" para cada ciudadano. Impulsada con la infraestructura de la empresa Palantir, la iniciativa busca cruzar información de AFIP, ANSES, registros de salud y hasta la actividad en internet de los usuarios con el fin de optimizar la asignación de recursos sociales. Lo que el oficialismo presenta como un salto cuántico en la gestión pública, expertos en datos, juristas y académicos lo califican como un "experimento orwelliano" que podría erosionar la privacidad, el libre albedrío y los pilares de un Estado democrático de derecho.

¿Qué es un "gemelo digital"?

   El concepto de gemelo digital nació en la ingeniería y la industria. Consiste en crear una réplica virtual de un objeto, una máquina o incluso una ciudad para simular su comportamiento, detectar fallos y predecir su evolución. Su aplicación en la Fórmula 1 o en la fabricación de aviones es ya una práctica consolidada.

   Trasladada al ámbito ciudadano, la premisa cambia radicalmente: ya no se trata de predecir el desgaste de un componente, sino el de las personas. El sistema se nutre de un cruce masivo de datos –fiscales, previsionales, sanitarios, educativos y de huella digital– con el objetivo técnico de elaborar perfiles detallados que permitan anticipar comportamientos sociales, necesidades futuras y posibles riesgos. El motor tecnológico detrás de este proyecto es Palantir, la firma fundada por Peter Thiel, especializada en análisis de macrodatos para gobiernos, fuerzas de seguridad y agencias de inteligencia a nivel global.

Eficiencia administrativa vs. "calificación social"

   La argumentación oficial es clara: segmentar mejor la asistencia social, reducir el fraude, eliminar la burocracia y llevar los recursos a quienes realmente los necesitan. Sin embargo, la línea que separa la optimización del control es particularmente delgada.

   Críticos y organizaciones de la sociedad civil advierten que, una vez centralizada y automatizada esta información, el sistema podría derivar en un mecanismo de social scoring (calificación social), similar al implementado en China. En ese modelo, el comportamiento digital, financiero y social de cada individuo se traduce en una puntuación que determina su acceso a créditos, empleos, servicios públicos e incluso su libertad de movimiento. En 2018, el sistema chino ya había impedido el embarque en vuelos comerciales a más de 18 millones de personas por tener una "baja calificación cívica". La pregunta que surge es inevitable: ¿hasta dónde puede llegar un Estado que puntúa a sus ciudadanos?

El algoritmo que juzga: sesgos, opacidad y deshumanización

   Convertir a una persona en un conjunto de variables predecibles plantea dilemas éticos de fondo. Los sistemas de inteligencia artificial no son neutros: aprenden de datos históricos que suelen reproducir desigualdades estructurales, prejuicios socioeconómicos y patrones de exclusión. Un ciudadano con historial de deudas, con movilidad laboral irregular o con patrones de consumo atípicos podría ser sistemáticamente penalizado por un algoritmo opaco, sin posibilidad de apelación humana ni explicación clara.

   Más allá del error técnico, está la deshumanización implícita. Cuando el Estado deja de ver a las personas para empezar a gestionar "riesgos estadísticos", se tensiona el principio de libre albedrío frente a la predicción masiva. A esto se suma el marco ideológico de algunos promotores de esta tecnología. Peter Thiel, figura central en el ecosistema de Palantir, ha expresado públicamente visiones que cuestionan a la democracia como un freno al "aceleracionismo tecnológico". Esta postura genera interrogantes legítimos: ¿se trata de una herramienta de bienestar o de un instrumento de control preventivo y selectivo?

De la ficción distópica a la regulación europea

   La cultura popular ya advirtió sobre estos caminos. En Minority Report, un sistema detiene a personas por crímenes que aún no cometieron. En el episodio Nosedive de Black Mirror, una sociedad colapsa bajo la tiranía de las puntuaciones sociales y la validación constante. Y en 1984, George Orwell imaginó un Estado que lo sabe todo, eliminando la intimidad y el pensamiento crítico.

   Hoy, esas advertencias literarias y cinematográficas se traducen en marcos regulatorios concretos. La Unión Europea, a través de su reciente Ley de Inteligencia Artificial (AI Act), clasificó el social scoring por parte de gobiernos como una práctica de "alto riesgo" y la prohibió explícitamente por considerar que atenta contra la igualdad, la privacidad y los derechos fundamentales. El bloque europeo establece que la IA no debe utilizarse para evaluar o clasificar a las personas de manera generalizada, salvaguardando así la presunción de inocencia y la autonomía individual. La gran incógnita es si Argentina avanzará con salvaguardas similares o implementará el sistema sin frenos de contralor democrático.

El futuro se escribe hoy: entre la data y los derechos

   La inteligencia artificial tiene un potencial innegable para modernizar la administración pública, reducir la discrecionalidad política en el reparto de subsidios y hacer más ágil la respuesta estatal ante emergencias. Pero su implementación en el ámbito social no puede depender únicamente de la eficiencia técnica. Requiere transparencia algorítmica verificable, auditorías independientes, límites estrictos a la recolección y cruzamiento de datos, y, sobre todo, un debate legislativo y ciudadano amplio.

   Porque cuando el Estado empieza a "anticipar" a sus ciudadanos, la línea que separa la protección de la vigilancia se vuelve difusa. La tecnología no es inherentemente buena ni mala; su impacto depende del marco ético, legal y democrático que la contenga. La gran interrogante del "gemelo digital social" no es si puede predecir nuestro futuro con mayor precisión, sino si estamos dispuestos a ceder nuestra libertad y nuestra intimidad para que un algoritmo lo decida por nosotros. En un país que reconstruye sus instituciones, la respuesta a esta pregunta definirá no solo el rumbo de una política pública, sino el carácter de la democracia misma.