Uso de la IA en la administración pública: cuáles son los riesgos y beneficios y qué pasa en otros países

Hace tiempo que la inteligencia artificial dejó de ser un experimento limitado al ámbito privado. Hoy ordena expedientes, predice datos y responde consultas dentro del Estado argentino. 

En el anuncio de OpenAI y Sur Energy para la construcción de un data center de IA en Argentina, la empresa creadora de ChatGPT señaló que se están explorando “oportunidades con el Gobierno argentino para fomentar” la IA en “todo el país”.

“Tal como hemos visto en colaboraciones similares en todo el mundo, ChatGPT tiene el potencial de ayudar a los empleados del gobierno argentino, así como a las instituciones administrativas y de investigación, a agilizar su trabajo diario, lo que en última instancia permitirá ahorrar costos y brindar mejores servicios a la ciudadanía argentina”, señala el comunicado de OpenAI.

Casi en simultáneo, la Corte Suprema de Justicia de la Nación implementó una nueva forma de visualizar las sentencias de los tribunales federales y nacionales publicadas en el sitio de la Corte con esta tecnología.

Estas iniciativas se suman a una lista creciente de proyectos que ya utilizan IA en distintos niveles del Estado: chatbots de atención ciudadana, automatización de procesos en salud y educación, predicción de demanda hospitalaria, clasificación de expedientes y redacción de dictámenes.

Atención ciudadana y optimización de recursos: los beneficios del uso de la IA

“La inteligencia artificial tiene un enorme potencial para transformar la gestión pública. Puede mejorar la atención ciudadana, agilizar trámites y optimizar procesos internos”, señaló a Chequeado David Groisman, director de Estado y Gobierno de Cippec.

Un ejemplo concreto es Boti, el chatbot del Gobierno de la Ciudad de Buenos Aires, que en 2024 incorporó IA generativa para ofrecer respuestas más precisas y personalizadas. “La IA abre la puerta a un Estado más ágil y proactivo. Puede, por ejemplo, ayudar a predecir la demanda hospitalaria o detectar microbasurales a cielo abierto mediante imágenes satelitales”, agregó Groisman. Y sumó: “Estas herramientas permiten anticipar problemas y mejorar la planificación, liberando tiempo para que los equipos públicos se concentren en lo que realmente el ser humano es irremplazable.”

En la provincia de Neuquén, por ejemplo, se está desarrollando un proyecto de IA orientado a analizar, clasificar y organizar sistemáticamente la información contenida en la Biblioteca Digital de Legislación. El objetivo es digitalizar y procesar más de 20 años de decretos, leyes y resoluciones provinciales, facilitando su búsqueda, acceso y análisis.

En el ámbito judicial, la herramienta Prometea, desarrollada por el Ministerio Público Fiscal de la Ciudad de Buenos Aires, utiliza IA para automatizar la clasificación de expedientes, predecir resoluciones y redactar dictámenes.

Otra aplicación de la AI en la gestión pública es el análisis predictivo. Los gobiernos pueden anticipar necesidades y diseñar políticas públicas más efectivas. En Mendoza, Entre Ríos y Salta, por ejemplo, se encuentran los Sistemas de Alerta Temprana para prevenir el abandono escolar, que analizan datos sobre trayectorias educativas y contextos familiares para identificar a tiempo a estudiantes en riesgo.

Sesgos e inequidades: los principales riesgos del uso de la IA en el Estado

Pero también existen algunas señales de alarma. Uno de los mayores riesgos del uso de la IA en el Estado, para los especialistas, es la reproducción de sesgos en el análisis o en los datos que analiza la IA. “El principal riesgo es que, si no se auditan adecuadamente, los sistemas de IA pueden reproducir sesgos presentes en los datos o en su diseño, generando decisiones injustas, opacas o difíciles de explicar”, explicó Groisman.

Otro riesgo surge del uso de herramientas como ChatGPT en el Estado sin una adecuada protección de datos. La carga de información ciudadana sin anonimizar puede poner en riesgo la privacidad de millones de personas.

“La implementación de IA debe apoyarse en marcos legales claros y adaptativos que regulen el uso de datos personales, garanticen la transparencia de los procesos algorítmicos y aseguren el respeto por los derechos de la ciudadanía. Es clave promover estándares éticos y criterios de uso responsable de algoritmos que eviten sesgos, aseguren la rendición de cuentas y prioricen la equidad”, advierte Cippec en su “Guía para el uso de IA en el sector público en Argentina” .

La Organización Panamericana de la Salud (OPS) también alerta sobre el uso de IA generativa en salud pública -por ejemplo, en la elaboración de alertas o materiales educativos-, subrayando la necesidad de supervisión humana para revisar y aprobar todo el contenido generado por estos sistemas, especialmente cuando el contenido puede influir en el comportamiento del público, informar sobre políticas locales o respaldar respuestas de emergencia.

El caso argentino y qué ocurre en otros países

Según un repositorio digital de la Universidad de los Andes de Colombia con apoyo del Banco Interamericano de Desarrollo (BID), existen más de 45 iniciativas en provincias y municipios argentinos que están incorporando herramientas de IA en áreas tan diversas como educación, salud, seguridad, servicios ciudadanos y justicia.

Sin embargo, los especialistas coinciden en que el caso local aún enfrenta desafíos. 

“Aunque el ecosistema es vibrante y diverso, también presenta áreas con potencial de mejora. La consolidación de estas iniciativas requiere avanzar hacia una mayor articulación y sostenibilidad en el tiempo, así como generar capacidades compartidas entre los distintos niveles del Estado”, señaló en Infobae Soledad Guilera, ex directora Ejecutiva del Centro de Políticas basadas en la Evidencia (CEPE) de la Universidad Torcuato Di Tella y ex asesora en el Programa Argentina 2030 de la Jefatura de Gabinete durante el gobierno de Cambiemos.

“Argentina tiene capacidades técnicas comparables a muchos países de la región, pero su aplicación de IA en el Estado todavía es incipiente. Hay esfuerzos puntuales -algunos chatbots de atención ciudadana, proyectos de análisis de datos en salud o justicia-, pero la mayoría funcionan más como pruebas piloto que como políticas sostenidas”, sumó a Chequeado Santiago Siri, fundador y presidente de The DemocracyOS Foundation.

Guilera también enfatizó la importancia de la transparencia y la evaluación continua, especialmente en áreas sensibles como la seguridad, la salud o la protección social, los sistemas automatizados deben ser auditables, explicables y sujetos a revisión.

“Algunas iniciativas avanzadas, como la integración de IA en el análisis de llamados a la línea 144 (Ciudad de Buenos Aires), incorporan transcripción automática y seguimiento del riesgo, pero todavía no está claro cómo se monitorea la calidad de las predicciones ni qué mecanismos existen para corregir errores”, señaló la especialista.

Según Siri, los países que mejor avanzaron fueron los que lograron articular política, infraestructura y regulación. “Estonia y Corea del Sur son ejemplos claros: digitalizaron procesos desde una visión integral del Estado. Argentina, en cambio, tiene talento técnico y un ecosistema de innovación fuerte, pero carece de continuidad institucional y coordinación interministerial”, explicó.

En la región, Uruguay es probablemente el más consistente en la digitalización del Estado, según Siri. “La Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento (Agesic) lleva más de una década impulsando políticas de gobierno digital y recientemente empezó a incorporar IA para automatizar consultas ciudadanas y detectar patrones en servicios de salud y transporte. Lo importante es que lo hacen con continuidad institucional, no como proyecto aislado”, señaló el especialista. 

Y agregó: “Chile también tiene iniciativas relevantes, especialmente en justicia y educación, con modelos de clasificación de expedientes y análisis de datos para políticas públicas. Brasil está avanzando fuerte con laboratorios de innovación pública en varios ministerios y algunos usos de ia generativa para documentación y soporte interno”.