El Gobierno anunció un sistema de entrecruzamiento de datos de distintos organismos del Estado llamado Gemelo Digital Social, por lo que expertos en protección de datos personales se pusieron en alerta por los riesgos que conlleva para la vida democrática. Fundación Vía Libre realizó un pedido de información pública.
Captura de pantalla del video difusión publicado por el Ministerio de Capital Humano.
El Gobierno presentó el viernes pasado el primer Gemelo Digital Social, un sistema de Inteligencia Artificial que, según publicaron las autoridades en la red social X, tendrá como objetivo “simular, anticipar y optimizar políticas públicas” a partir del entrecruzamiento de datos de distintos organismos del Estado. La Fundación Vía Libre realizó un pedido de acceso a la información pública al Ministerio de Capital Humano para que brinde respuestas sobre los detalles de la herramienta, ya que podría poner en riesgo el derecho a la privacidad y a la protección de los datos personales.
El video que publicó el Gobierno, que tiene una falta de ortografía que la IA no pudo evitar, promete que la Argentina, con la implementación de Gemelo Digital, pasará “de la asistencia reactiva al Estado que anticipa”. El anuncio brilla por su opacidad, pero reconoce que el insumo del sistema serán datos reales, que se unificarán en una sola base, no especificada, y permitirán la predicción de los comportamientos sociales a partir de la simulación de escenarios para mejorar las políticas públicas. Según el último comunicado del Ministerio, se trataría de un proyecto en etapa preliminar, impulsado y coordinado en su totalidad por Capital Humano.
“En los sistemas predictivos lo que pasa es que no se sabe qué información se está construyendo sobre uno”, señala Margarita Trovato, encargada de Políticas Públicas de Vía Libre. “Está en riesgo el derecho a la autodeterminación informativa, a saber qué información nuestra existe, cómo está siendo usada y para qué”, agrega.
La Fundación Vía Libre realizó un pedido de acceso a la información pública el mismo viernes con el objetivo de conocer qué datos se recolectarán con la implementación del sistema, de qué organismos, con qué finalidad, dónde se alojarán y si su tratamiento será acorde a lo dispuesto por la Ley 25.326 de Protección de Datos Personales. “Preguntamos incluso si ya tienen el programa, si tienen una tecnología o es una idea y van a salir a licitar y a contratar un software, o si ya tienen un software y están buscando los datos para empezar a implementarlo. Están muy a ciegas”, dice Trovato.
El miércoles el Ministerio de Capital Humano lanzó un comunicado oficial con la supuesta intención de ampliar la información sobre la iniciativa, pero aun no dieron respuesta sobre los puntos mencionados arriba. En las últimas horas también se sumó el pedido de habeas data colectivo presentado por el diputado de Unión por la Patria Agustín Rossi ante la Justicia Federal.
El anuncio del Gobierno coincide con la instalación de Peter Thiel en Argentina, un magnate de Silicon Valley que participó de reuniones con Javier Milei y Luis Caputo. Thiel es cofundador de Palantir Technologies, empresa que pone su tecnología al servicio de la localización de inmigrantes ilegales en Estados Unidos para el Servicio de Inmigración y Control de Aduanas (ICE), de la automatización de ataques militares en Irán y el genocidio en Palestina. Casualmente, Palantir también tiene un programa que se llama Gemelo Digital y consiste en generar copias virtuales de empresas, sistemas operativos o plantas, hacer simulaciones sobre ellos y predecir fallas para optimizar resultados.
La Oficina del Presidente difundió la foto del encuentro con Peter Thiel, el mismo día que prohibió el ingreso a la Sala de Periodistas de la Casa Rosada.
En principio, de acuerdo a la información disponible, el Gemelo Digital Social argentino se aplicaría sobre la realidad social, pero quedan muchos interrogantes en relación al vínculo del programa con Peter Thiel y la empresa estadounidense -recientemente desmentido por el Ministerio encabezado por Pettovello, que afirmó que es impulsado únicamente por el Gobierno nacional, sin contratación de empresas- y la utilización y cuidado de los datos de los ciudadanos argentinos.
Martín Becerra, investigador principal en CONICET y Doctor en Ciencias de la Información, señala los problemas de este tipo de sistemas predictivos, basados en Inteligencia Artificial, que ya se han comenzado a utilizar en la Argentina para el ciberpatrullaje bajo la órbita del Ministerio de Seguridad: “La predicción de conductas se demostró en numerosas ocasiones errada, genera acusaciones infundadas porque es una predicción que está basada en un cálculo probabilístico y no en evidencia empírica concreta”.
El investigador señala que otro gran problema de la aplicación de estas tecnologías es la opacidad de las fuentes de entrenamiento de las herramientas de inteligencia artificial que van a evaluar políticas sociales y predecir comportamientos, tales como las conductas delictivas. “Al carecer de auditoría pública, se presta a la manipulación, al sesgo y a un régimen de control muy autoritario”, explica Becerra.
Al respecto, la Fundación Vía Libre en su pedido de acceso a la información pública consultó si se han diseñado salvaguardas “para mitigar riesgos de discriminación, sesgos algorítmicos y perfilamiento indebido de personas o grupos”.
La presentación de esta iniciativa, sobre la que tenemos más interrogantes que certezas, vuelve a poner sobre la mesa la discusión acerca de la extracción de datos de la población y la opacidad bajo la que operan estas tecnologías que ponen en jaque las garantías democráticas. Si bien el Gobierno desmintió el posible nexo con empresas tecnológicas transnacionales para este desarrollo, hay muchas señales de alerta. El Estado argentino deberá dar pronta respuesta sobre el uso de los datos de los argentinos y garantizar su protección, tal como lo dispone la normativa vigente en la materia.