Se busca empleador: inteligencia artificial para conseguirte un trabajo

Cuando el Ministerio de Trabajo de Paraguay hizo la última feria de empleo antes de la pandemia en febrero, más de 3.000 personas se postularon para cubrir alguna de las 750 vacantes que pedían las empresas. La mayoría eran jóvenes, un patrón común en cada feria. En ese país de 7 millones de habitantes, casi un tercio tiene entre 15 y 29 años. El desempleo afecta más a esta población y en especial a las mujeres: en 2018, la tasa de desempleo fue de 10,7% entre menores de 30, casi el doble de la tasa de desempleo global (5,6%), según la Dirección de Estadística, Encuestas y Censos. Y para dar respuesta a esta necesidad de encontrar trabajo, el Gobierno hizo una apuesta inusual, aunque a tono con la tendencia de buscar en la tecnología soluciones a problemas sociales: inteligencia artificial.

ParaEmpleo es una plataforma digital del Ministerio del Trabajo que se concretó gracias a un préstamo de 300.000 dólares del Banco Interamericano de Desarrollo (BID), como parte del Programa de Apoyo a la Inserción Laboral (PAIL). Desde enero de 2019 funciona así: se publican ofertas de trabajo que se vinculan a personas que desean un puesto laboral. La vinculación entre el oferente de un puesto y la persona que busca trabajo se realiza con un motor de pareo basado en inteligencia artificial (IA), una tecnología que combina datos y algoritmos para tomar decisiones que, en su ausencia, tomarían las personas.

Desde el Ministerio del Trabajo promocionan que Paraguay es el primer país latinoamericano en introducir IA en políticas públicas de empleo, que 7.700 personas consiguieron trabajo mediante las ferias y la plataforma y que los datos que contiene están protegidos ante posibles vulneraciones. También garantizan que ParaEmpleo no discrimina. Esto es, al menos, lo que ellos aseguran.

Entrevistas en el Ministerio, un pedido de información pública y el análisis de especialistas en protección de derechos humanos en Internet revelan limitaciones de esta tecnología. No solo porque Paraguay carece de una ley integral de protección de datos personales y de una estrategia de IA, sino porque la evidencia apunta a que los algoritmos no garantizan «objetividad» como se pretende. Las personas que los desarrollan tienen sesgos que pueden trasladarse a la tecnología. Y ésta, en vez de corregir desigualdades estructurales por razones de raza, género, edad u otros rasgos identitarios, las podría profundizar.

La plataforma del Gobierno que usa inteligencia artificial para conseguirte un empleo

ParaEmpleo, una suerte de LinkedIn optimizado, tendría 17.000 perfiles registrados y unas 200 empresas la usaban para reclutamiento de personal hasta octubre de 2019, según la información oficial. Los cinco cargos más demandados ese año fueron cajero, vendedor, operario, guardia de seguridad y repositor. El BID –que dio el préstamo al gobierno paraguayo para adquirir la tecnología– maneja otros números: habla de una base de datos de más de 25.000 solicitantes. Consultada sobre esta diferencia, la oficina de prensa del BID en Paraguay respondió que no todos los solicitantes corresponden a perfiles laborales, que son aquellas personas que buscan empleo, pero no especificó a qué se refieren con «solicitantes». Este medio pidió datos actualizados a la directora de Empleo Magdalena Bataglia, encargada de la plataforma, pero la funcionaria no respondió a las consultas.

La tecnología de ParaEmpleo es de la empresa suiza Janzz Technology, que se define como una compañía especializada en «matching semántico de habilidades y empleo» que brinda este servicio en 5 países, entre los que cita a Paraguay y Noruega. La consultora Marina Salinas, quien estuvo a cargo del proyecto hasta febrero de 2020, había explicado que Janzz daría acompañamiento técnico al Ministerio del Trabajo hasta diciembre de 2019, pero no especificó si habría un soporte posterior a la implementación. Este medio consultó al Ministerio las condiciones y términos de uso del software, pero no dieron respuesta.

Salinas detalló que la plataforma aloja perfiles tanto de usuarios que recurren a la oficina de la Dirección General de Empleo (DGE), como de aquellos que crean un perfil por cuenta propia. Aseguró que cerca de 2.700 personas consiguieron empleo a través del servicio de enero a agosto de 2019, cifra que representa casi un tercio de las inserciones laborales que el Ministerio de Trabajo asegura haber logrado el año pasado. Este número no se puede corroborar porque el Ministerio ni siquiera publica datos de ParaEmpleo con fines estadísticos. Preguntamos a la directora de Empleo la cantidad más actualizada de inserciones laborales mediante la plataforma, pero no respondió esta ni otras consultas.

¿Cómo opera la plataforma? Al crear un perfil con su correo electrónico el usuario debe completar los datos comunes de un currículum como nombre completo, cédula de identidad, dirección y otros. También debe especificar sus capacidades y habilidades para postular a las vacantes, que son los campos que ParaEmpleo tiene en cuenta para el cotejamiento. El motor de IA busca perfiles que tengan un mayor porcentaje de coincidencia (matching) con los requisitos que solicita una empresa para conectarlos.

Salinas resaltó que esto difiere de un sistema tradicional, donde la coincidencia debe ser total para conectar un perfil con un puesto. Por ejemplo, si una empresa busca un arquitecto, el sistema se limita a un arquitecto recibido. «Si estoy por terminar la carrera aún no me puedo llamar arquitecto, pero ya hice planos de obras, uso AutoCad. Esas son mis capacidades. Este motor matchea mis capacidades. Entonces puedo cotejar un empleo igual», agrega.

Pero la centralización de ofertas laborales y problemas con la plataforma desalentaron a algunos usuarios. Esmilce, una joven del departamento en Alto Paraná, al este del país, relata su experiencia: «Al principio me pareció interesante, pero al unirme ví que las ofertas se centraban mucho en Asunción. Eso me desmotivó. Incluso había fallas con el sistema, no te restablecían la contraseña de forma inmediata. Ya no uso mi cuenta».

Doricel Domínguez de San Lorenzo es otra usuaria que tuvo inconvenientes: «La plataforma en sí no se entiende bien porque te pide cargar todos tus datos, hice los pasos, cargué mi CV y al final no puedo enviar mi solicitud para el puesto que dice que está vacante. En esa parte estoy disconforme».

Salinas explicó que el Ministerio adoptó la plataforma para optimizar las funciones de la Dirección General de Empleo, que desde hace años ofrece un servicio de intermediación laboral. Para Celia Urbieta, directora general de Gobierno Abierto de la Secretaría Técnica de Planificación (STP), el servicio tiene un componente de innovación que sería muy útil de aplicar en otros proyectos del Estado.

El uso de IA para agilizar la gestión de empleo no es propia del sector público paraguayo. En España, por ejemplo, L’Oréal utiliza una plataforma con IA para la selección de candidatos de un programa de becas. Los directivos dicen que el algoritmo les ahorra tiempo en la selección de postulantes, además de evitar criterios sesgados como de qué escuela provienen.

Andrew Moore, vicepresidente de Google Cloud AI, opina que la implementación exitosa de inteligencia artificial es un trabajo duro. Advierte que no es una suerte de «polvo mágico» que se esparce en una organización y que de forma automática todo funcionará mejor, contrariamente a lo que algunos creen.

Tecnología humana: Inteligencia artificial que discrimina

Google tuvo que pedir disculpas porque su servicio de fotos confundía a las personas afroamericanas con gorilas. Otro algoritmo concluía que cualquier individuo en una cocina era una mujer, a pesar de que algunas imágenes eran de hombres cocinando, como demostró un experimento de investigadores de las universidades de Virginia y Washington. Los algoritmos también se equivocan. Después de todo, son creaciones humanas. La matemática Cathy O’Neil, autora del libro Máquinas de destrucción matemática, dice que no podemos esperar que emerjan intactos: para construir un algoritmo, las personas eligen los datos que recoge y una definición de éxito. «Nosotros somos los prejuiciosos e inyectamos a los algoritmos esos prejuicios», enfatiza en una charla Ted.

Según Salinas, ParaEmpleo no discrimina porque su motor de IA se adecua al Reglamento de Protección de Datos de la Unión Europea, uno con los más altos estándares en la materia. Al preguntarle cómo garantiza que la plataforma no discriminará por sexo, Salinas explica: «Cuando la empresa publicita una vacante, la plataforma le indica “el porcentaje de match es tal para tal perfil”. Hasta ahí no sabe si esa persona es hombre o mujer. Como política pública cumplimos en dar igualdad de posibilidades a todos».

Diego Rico, gerente de proyectos de Janzz Technology para Paraguay, afirma a este medio que no se detectó ningún sesgo en la metodología de la empresa suiza. «Janzz tiene una metodología única para desagregar datos que puedan identificar a una persona y categorizarla por su sexo, edad, religión, origen étnico, etc. Esto ayuda al candidato y a las empresas a encontrarse a través datos objetivos y relevantes para ambos», dice.

Una investigación de Reuters reveló que Amazon dejó de usar su plataforma de reclutamiento de personal con IA porque descubrieron que tenía un sesgo contra las mujeres para puestos de desarrollo de software. Por eso, cuando se trata de algoritmos importa con qué datos fueron entrenados antes de ponerlos en funcionamiento y quiénes hicieron este trabajo. Esto cobra relevancia en el contexto paraguayo, donde las mujeres son las más afectadas por el desempleo.

El gerente afirma que Janzz tiene «la base de datos más grande del mundo referente a ocupaciones laborales», a lo que denominan ontología ocupacional. Dice que el desarrollo de la tecnología demandó el equivalente a 240.000 horas/hombre y que el proceso abarcó analistas de datos, lingüistas, expertos de recursos humanos y científicos de datos. Agrega que estos expertos analizan cada nuevo dato sobre ocupación, competencia, habilidades blandas, educación y otros, que se agregan a la base de datos.

«Una crisis de diversidad en la inteligencia artificial», advierte una investigación del AI Now Institute. Sus hallazgos confirman que los sistemas de IA discriminan a colectivos no hegemónicos. La razón: los algoritmos son entrenados o educados en el 80% de los casos por hombres blancos. Y menos del 15% por mujeres.

En entrevista con Emol, Renata Ávila, abogada en derechos humanos y tecnología, resume el conflicto con diseño de bases de datos que alimentan la inteligencia artificial: «Cómo categorizar a alguien es un acto político. Se quiere poner como científico, pero es político».

Eduardo Carrillo, especialista en derechos digitales, dice que es clave saber si los datos que la empresa usó para que el motor de IA de ParaEmpleo aprenda a matchear son compatibles con trabajadores paraguayos. De lo contrario, podría discriminar a postulantes. Consultado sobre los datos que usó Janzz Technology para construir el motor de matching y si son compatibles con trabajadores paraguayos, Rico señala que «provienen de fuentes muy diversas», sin detallar cuáles. Dice que todo el proceso está supervisado por humanos «porque la calidad y confiabilidad de los datos en la red no se pueden confiar al 100%». Asegura que la base de datos ocupacional aprende del mercado laboral paraguayo y que los algoritmos usan esos datos para el match.

Otra preocupación es la seguridad de los datos. En el sitio de ParaEmpleo se afirma que los datos se almacenan y procesan en un centro «seguro y moderno de Brasil», pero no se sabe qué tratamiento le dan a los datos en esa ruta. Al respecto, el gerente de Janzz Technology señala que el Ministerio de Trabajo usa el centro de datos de la empresa en Brasil como un servicio en la nube. Explica que utilizan ésto porque Janzz solo trabaja con servidores que tengan certificación ISO 27001 Tier 3 o Tier 4, lo que asegura «un 99.8% de disponibilidad y certifica la seguridad». A esto se suman conectividad y velocidad de internet. «Actualmente no existe un centro de datos con estas características en Paraguay», refiere.

La autoridad de protección de datos que no existe

¿Qué pasa si un usuario de ParaEmpleo quiere saber cómo se tratan sus datos? El sitio deriva a la persona al «Comisionado Federal de Paraguay para la Información y Protección de Datos». O sea, una autoridad reguladora que no existe: el país ni siquiera tiene una ley integral de protección de datos personales. Y su sistema político no es federal.

El error muestra que no se ha hecho un análisis exhaustivo de protección de datos personales con base en el contexto paraguayo. Sobre el punto, la abogada Maricarmen Sequera, directora de Tedic, una organización pionera en defensa de derechos digitales, dice que cualquier iniciativa de política pública con un componente de tecnología necesita un análisis de impacto con perspectiva de derechos humanos previo a la implementación. Esto permite identificar potenciales vulneraciones, sobre todo cuando se trata de inteligencia artificial.

El análisis debería incluir la exigencia de propiedad intelectual abierta y libre del software adquirido, para que se pueda hacer un control externo sobre cómo están diseñados los algoritmos, añade Sequera. Al respecto, el representante de Janzz Technology señaló que la empresa suiza está abierta a compartir métodos y procesos relacionados a IA «siempre y cuando su propiedad intelectual no sea expuesta».

La justificación para incorporar IA en políticas públicas de empleo tampoco está clara. Prueba de ello es la ausencia de indicadores de éxito de ParaEmpleo. Consultada al respecto, la ex asesora Salinas se había limitado a decir que el proyecto estaba en etapa incipiente porque todavía no tenían la conexión necesaria con las empresas. Reiteramos esta pregunta al Ministerio de Trabajo a través de un pedido de información y no respondió. El proyecto PAIL, del cual forma parte ParaEmpleo, sí determina los resultados esperados, como personas atendidas por año en la DGE y vacantes registrados. Esta información está disponible en la web del BID, pero tampoco especifica los números de esos indicadores.

El impacto de la evolución tecnológica sobre el empleo fue abordado por la Organización Internacional del Trabajo (OIT), que en su centenario celebrado en junio de 2019 adoptó una Declaración para el Futuro del Trabajo. Guy Ryder, director general de la OIT, exhortó a los gobiernos a adoptar medidas con un enfoque centrado en las personas, que les permita enfrentar los cambios en la vida laboral que se producen cada vez más rápido. «El futuro del trabajo no está predeterminado. No se decidirá por nosotros, ni por robots, ni por la inteligencia artificial», dijo.

Un modelo que el BID quiere exportar

Paraguay es el único país latinoamericano que utiliza IA en políticas públicas de empleo, asegura la oficina de comunicación del BID a este medio. Señala que en 2020, otros países comenzarán a implementar esta tecnología para mejorar los procesos de inserción laboral en la región.

También Janzz Technology, proveedora del motor de matching, señala en su Web que la plataforma «será un modelo para otros países sudamericanos, en los cuales está previsto que el BID podrá financiar proyectos similares». Janzz también provee a la Administración Laboral y Social Noruega (NAV), que utiliza una plataforma con IA para el reclutamiento de personal.

Sobre la elección de la empresa suiza, la vocería del BID aclara que el Banco no participa en la selección de proveedores, pero facilita metodologías de selección a cada país: «En el caso de Paraguay se realizó un análisis de posibles proveedores y benchmarking de la oferta que incluyó distintas plataformas y sistemas de intermediación de clase mundial, con miles de horas invertidas, y procesos muy avanzados, con costos de licencias accesibles».

En los últimos años, el BID dio millonarios préstamos a Paraguay para varios proyectos, algunos de ellos muy cuestionados como el fallido Metrobús y un plan maestro de TICs conocido como agenda digital. En el Ministerio del Trabajo no pudieron especificar si la iniciativa de la compra del motor de matching fue del Gobierno o del BID.

Esta nota es una de las ocho investigaciones latinoamericanas sobre las implicancias éticas del uso de inteligencia artificial y algoritmos en políticas públicas y empresas privadas a nivel regional. Todas estas piezas son financiadas por Chequeado gracias al apoyo de Knight Foundation. La nota que acabas de leer fue la seleccionada en la convocatoria abierta realizada en el marco de este proyecto.