Qué es un gemelo digital y qué se sabe del anuncio del gobierno de Milei

El Ministerio de Capital Humano anunció en sus redes sociales el lanzamiento del “Gemelo Digital Social”. “Por primera vez, nuestro país lidera el futuro social. El Ministerio de Capital Humano presenta el Gemelo Digital: un cambio de paradigma en la política social con el uso de Inteligencia Artificial”, publicó el presidente Javier Milei, al compartir el video oficial.}

PAMI expone datos médicos y documentos sensibles de sus afiliados en su sitio web

Sin embargo, estudios internacionales advierten sobre los riesgos del uso de datos personales en este tipo de herramientas, mientras que especialistas locales cuestionan la falta de información oficial sobre cómo se usarán los datos de los argentinos. Además, diputados de distintos bloques ya presentaron  pedidos de informes al Gobierno para conocer más detalles de la implementación del sistema.

Qué es un gemelo digital

“Un gemelo digital presupone que es un avatar de inteligencia artificial que replica los datos de una persona. No queda nada claro qué significa en el contexto de este video, si van a hacer un gemelo digital por cada argentino o qué”, explicó a Chequeado Santiago Siri, fundador y presidente de The DemocracyOS Foundation, una ONG que busca promover la democracia digital y la innovación en los procesos democráticos utilizando la tecnología.

“Un gemelo digital es una réplica virtual de un sistema real que se alimenta con datos para simular qué pasaría ante distintos escenarios”, explicó en un hilo de X Javier Pallero, especialista en análisis de políticas públicas para internet. 

Según el artículo “Gemelos Digitales: pasado, presente y futuro”, de Magdalena Görtz -que forma parte del Centro Alemán de Investigación del Cáncer (DKFZ) en Alemania- el sector industrial fue uno de los primeros en utilizar gemelos digitales como modelos vivos de máquinas, líneas de producción y fábricas completas para optimizar las operaciones, predecir fallas y refinar los diseños mucho antes de que se implementen cambios. 

El concepto viene de los inicios de la era espacial. “En la década de 1960, la NASA fue pionera en la idea de un gemelo digital para simular naves espaciales y solucionar problemas en tiempo real”, explica Görtz. Pero el término fue acuñado mucho más tarde, en 2002, por Michael Grieves “en el contexto de la gestión del ciclo de vida del producto para guiar el diseño y la gestión industrial”. 

Qué se sabe sobre el anuncio del Gobierno

El ministerio de Capital Humano indicó en una gacetilla que el objetivo es pasar a “un Estado que no solamente observe la realidad una vez que los problemas ya ocurrieron, sino que tenga capacidad de anticipación, simulación y prevención”, y que el gemelo digital sea “una herramienta orientada a transformar datos en capacidad de predicción y diseño estratégico de políticas públicas”.

El informe describe 4 etapas de implementación: un diagnóstico interno con mapeo de datos existentes en el Ministerio, una primera mesa de trabajo con actores del sector público, privado y académico, la definición de una arquitectura tecnológica con herramientas de simulación e inteligencia artificial, y una segunda mesa dedicada a debatir privacidad, ética algorítmica y marcos legales. 

El texto no incluye fechas, presupuesto ni organismos concretos responsables del desarrollo.

El Ministerio de Capital Humano aún no especificó de qué sistemas de datos se nutrirá el modelo: sólo habla de información “social, educativa, laboral y territorial” proveniente de “distintas áreas del Gobierno nacional”, pero no menciona ninguna base concreta. Tampoco aclara si el sector privado, al que convoca a participar de las mesas, aportará datos propios al modelo y de qué tipo.

Sobre las personas cuyos datos se procesarían, el documento no hace referencia a consentimiento informado, anonimización, ni al marco legal bajo el que operará el sistema. 

Expertos advierten por riesgos en el uso de datos personales

Tanto estudios internacionales como especialistas advierten sobre peligros en el uso de los datos personales con este tipo de herramientas. 

En un estudio de la Universidad de Ciencias Aplicadas de Utrecht (Países Bajos) se explica que “su implementación en la administración pública plantea preocupaciones éticas que, según el conocimiento de los autores, no han sido exploradas”. 

Y plantean que “puede generar problemas de privacidad de datos, especialmente cuando se trata de información personal sensible”. Dan como ejemplo el gemelo digital de Singapur, “donde se recopilan continuamente datos de espacios públicos para optimizar los servicios de la ciudad. Si bien es efectivo, este nivel de vigilancia puede infringir los derechos de privacidad de los ciudadanos si no se gestiona con estrictas salvaguardias”. 

Diego Fernández Slezak, investigador del CONICET, y director del Laboratorio de IA Aplicada en la UBA, explicó a Chequeado: “La tecnología de los digital twins, que en 2024 se empieza a discutir seriamente, todavía no está disponible. Hay empresas que ofrecen ese servicio, como Palantir, pero no tienen ningún artículo científico ni caso de éxito documentado de que efectivamente funcionen. Es un tema de investigación interesante, actual, moderno. Pero todavía no hay confirmación teórica ni aplicada de que funcione”. 

Consideró, también, “un poco apresurado lanzarse a decir que se van a hacer simulaciones de cambios en políticas sociales teniendo en cuenta que no hay una sola demostración científica de que eso funciona, ni siquiera en escenarios custodiados”. 

Además, señaló: “Lo que falta en ese anuncio es quién hizo las investigaciones, con qué herramientas evaluaron la factibilidad y cómo va a ser ese proceso de desarrollo, o si ya está hecho quién lo hizo, quiénes son los especialistas de IA, de sociología, de antropología, de política, que han mirado que la aplicación está hecha de manera correcta”.

Pallero advirtió: “Los riesgos para derechos son enormes y variados: scoring social, sesgos que se disfrazan de objetividad técnica, decisiones automáticas sobre prestaciones que nadie puede revisar ni apelar, y un problema serio de soberanía: que los datos más sensibles de la población terminen procesados por una empresa extranjera”. 

Y agregó que por ahora lo que anunció el Gobierno es “una declaración de intención, el sistema no está funcionando y oficialmente todavía NO hay proveedor elegido”. Las definiciones de arquitectura, plataforma y empresa quedaron para “futuras mesas de trabajo”. 

Según explicó a Chequeado Siri, en Argentina no se pueden usar tus datos para otro fin que no sea el fin específico para el cual diste tu información: “Hay jurisprudencia clara al respecto”. Y agregó: “La información clave es qué software están usando, con qué fines y qué bases de datos están aplicando”. 

Por su parte, Pablo Serdán, abogado y docente de la UBA, explicó en un hilo de X: “La falta de información sobre los contratos, auditorías y límites del proyecto genera una profunda preocupación. El anuncio oficial se presenta con música épica y gráficos de IA, como si cruzar los datos de todos los argentinos y entregarlos a empresas extranjeras para “predecir el futuro” fuera algo inofensivo. Esa liviandad es parte del problema”.