La presentación del programa “Gemelo Digital Social”, que impulsa el Gobierno nacional, generó muchas polémicas por la intención de usar una Inteligencia Artificial provista por una empresa extranjera para la manipulación de datos personales de la población argentina. 

Por tal motivo, el diputado nacional Agustín Rossi presentó una acción de hábeas data colectivo ante la Justicia Federal, con el objetivo de exigir precisiones sobre el uso y tratamiento de datos personales de la población argentina.

La presentación busca que el Ministerio de Capital Humano informe el marco legal de la iniciativa, qué tipo de datos serán utilizados, qué organismos públicos y empresas participan del desarrollo del sistema y cuáles son los mecanismos de control previstos. 

La instalación del “Gemelo Digital Social” fue anunciado desde las redes oficiales del Ministerio de Capital Humano, que manifestó como objetivos el análisis de datos de los ciudadanos para diseñar políticas públicas. Para lo cual, el sistema integrará en una base unificada datos de ANSES, salud, educación, trabajo, migraciones y territorio.

En el planteo judicial, Rossi alertó que se busca el procesamiento masivo de datos personales en poder del Estado, con la potencial participación de empresas tecnológicas extranjera, cuyos alcances, regulaciones y auditorías humanas son completamente desconocidos para la ciudadanía.

Se denunció “la falta absoluta de un consentimiento libre, expreso e informado por parte de los titulares de los datos, la ausencia de información pública sobre los límites del tratamiento y el altísimo riesgo de que el sistema involucre datos sensibles (como salud, discapacidad o situación socioeconómica), incrementando exponencialmente los peligros de estigmatización y perfilamiento social”.

Vale aclarar que el “Gemelo Digital Social” es uno de los productos que ofrece Palantir, la compañía del magnate tecnológico Peter Thiel. La compañía norteamericana desarrolla sistemas de inteligencia y vigilancia utilizados por la CIA, el FBI y la NSA. 

Asimismo, hay que recordar que la implementación de IA para ya trajo malos resultados en Europa. En el 2021, la agencia tributaria de Países Bajos utilizó un algoritmo calificado como “xenófobo” por Amnistía Internacional. 

Allí se detectaron fraudes en los subsidios para guarderías infantiles, señalando desproporcionadamente a las personas de origen inmigrante. Hubo más de 26.000 casos de acusaciones injustas, lo que llevó a muchas familias a la ruina económica, al divorcio o a que les fueran retirados sus hijos. 

Mientras que el 2020, el gobierno británico implementó un sistema automatizado para detectar fraudes en el programa de beneficios universales que señaló a 200.000 personas como “sospechosas de fraude”.

La investigación posterior mostró que sus modelos tenían sesgos sistemáticos por edad, discapacidad, estado civil y nacionalidad. Personas con enfermedades mentales fueron acusadas de mentir sobre su condición. La propia evaluación interna del gobierno admitió que la precisión del sistema era del 35%; el 65% restante fueron errores que recayeron sobre los más vulnerables.

Finalmente, otro dato enciende aún más las alarmar: Argentina no tiene una ley de protección de datos que regule el cruce de información entre agencias. Tampoco tiene un organismo de control independiente para la inteligencia artificial en el sector público.