Inteligencia artificial y discapacidad: cuando los algoritmos son herramientas de exclusión

Algunos días atrás, en pleno aislamiento social en la ciudad de Buenos Aires, la llegada de una Smart TV último modelo fue motivo de mucha alegría y expectativa para la familia Varela. Marcelo y Nancy habían descubierto una oferta muy atractiva en la página web de un retailer muy conocido y la posibilidad de pagar el aparato en 18 cuotas sin interés fue el empujón final que necesitaban para decidirse. Sus hijos Natalia y Franco, de 24 y 28 años respectivamente, también celebraron la adquisición. “En medio de la cuarentena y en esta coyuntura en la que todo aumenta de precio… ¡tener tantas cuotas era increíble! Fue la excusa perfecta para cambiar la tevé del comedor, que funcionaba pero era viejita, por una Smart TV de 50 pulgadas de una marca de la que soy fanático y con algo que nos sorprendió: un control remoto que responde a tu voz”, explicó Marcelo, un uruguayo que se instaló con su mujer hace casi dos décadas en suelo argentino y que hoy es gerente de sistemas de una empresa. Sin embargo, la alegría pronto se volvió en una decepción para su hijo Franco y en tristeza para toda la familia.

“El funcionamiento es así: tocás un botoncito del control remoto y decís ‘Netflix’ o ‘Prime Video’, por ejemplo, y el sistema te abre esa aplicación. Yo sé que el control por voz es común en teléfonos pero nunca lo habíamos visto en un control remoto. Era la gran novedad y nos divirtió probarlo. El problema es que nos entendía a todos salvo a Franco, que cuando quería poner YouTube, por ejemplo, el televisor ponía un cartel de que no lo entendía. Él trató y trató pero siempre el Smart TV le respondía lo mismo: ‘no te entiendo’”, recordó Varela. Franco vive con síndrome de down y, al igual que otras personas como él, tiene una dicción que no es idéntica a la del resto de los integrantes de su familia, lo que no es un obstáculo para comunicarse con ellos ni con sus amigos, pero sí con un televisor de alta gama. En el relato que cuenta su padre, se trató de un recordatorio de los obstáculos que suele encontrar en otros ámbitos pero que aquí se presentó en su propia casa y en tiempos de aislamiento: “Nos depositó a todos como familia en una circunstancia de no inclusión que nos sorprendió porque es increíble que un producto de tecnología de última generación, algo realmente muy premium, no esté pensando o preparado para el colectivo de las personas con discapacidad. Esta tecnología que parece mágica los deja afuera”.

Un futuro con más pantallas y más barreras

El reconocimiento automático del habla es una de las disciplinas más populares y exitosas dentro de los desarrollos de la inteligencia artificial en la actualidad. Se trata de un proyecto que tuvo su primer antecedente exitoso hace más de medio siglo, cuando IBM presentó en la Feria Mundial de 1962 su modelo de ordenador The IBM Shoebox, que podía “oír” y entender dieciséis palabras incluyendo los dígitos del 0 al 9 y términos como “más”, “menos” o “subtotal”. El proyecto de lograr una interacción mediante lenguaje natural hablado entre personas y computadoras fue un sueño durante todo el siglo XX pero con los avances en algoritmos de Machine Learning, o “aprendizaje automatizado”, permitieron que hoy sea una tecnología disponible en muchos dispositivos populares, como parlantes y smartphones de gama media y alta gracias a asistentes de voz como Siri, de Apple; Alexa, de Amazon o Google Assistant. A diferencia de los obstáculos a los que se enfrentaron los primeros diseñadores de esta tecnología, el aprendizaje automatizado permite que estos asistentes vayan mejorando su performance a partir del procesamiento de más y más palabras. Si bien existen diferentes modelos de programación que se utilizan para esta tarea, todos recogen esta características de la tecnología que suele presentarse como “inteligencia artificial”: la capacidad de analizar volúmenes gigantes de información y aprender a reconocer nuevos patrones.

El atractivo y potencial del reconocimiento automático del habla son tan altos que muchas de las grandes compañías de tecnología tienen proyectos vinculados con él. En noviembre del año pasado Globant la destacó de manera excluyente en su informe The Sentinel Report, que trimestralmente releva las tendencias de la industria. En su visión, estamos en una era “post pantalla”, en donde las compañías de tecnología deben estar preparadas para que la interfaz del usuario se dé a través de la voz. De acuerdo a una proyección que hizo Google, se espera que en 2023 haya 8 mil millones de asistentes por voz en uso en todo el mundo. Pero ¿qué sucederá con personas como Franco si efectivamente pronto más y más dispositivos se manejarán con el habla pero sus palabras no son reconocidas? 

El papá de Franco está preocupado por esta situación aunque es un convencido de que la tecnología tiene el potencial de incluir a más personas en vez de, como hace ahora, excluirlas. 

Hoy hay más mil millones de personas que viven con algún grado de discapacidad en el mundo y se espera que para 2050 ese número se duplique, pero de acuerdo con un informe publicado en 2018 por la Organización Mundial de la Salud, sólo una de cada diez personas que viven con discapacidad en el mundo accede a tecnología que le permita un mejor nivel de vida. Cambiar este escenario es uno de los sueños de Varela quien, además de trabajar en el departamento de informática de una empresa privada, preside ASDRA (Asociación Síndrome de Down de la República Argentina), desde donde nació hace seis años Proyecto Dane una plataforma que fomenta aplicaciones, software y videojuegos pensados para personas con discapacidad, en especial intelectual. Algunos de los títulos publicados apuntan, por ejemplo, a entender el uso del dinero con billetes argentinos, fomentar el conocimiento musical o el reconocimiento de emociones. En Proyecto Dane las personas con discapacidad están involucradas desde su concepción, algo que no sucedió con quienes diseñaron y entrenaron el algoritmo de reconocimiento de voz del Smart TV que Franco no puede usar. Chequeado se comunicó con LG, fabricante del dispositivo, quien respondió que “lamentablemente los comandos de voz reconocen palabras que están grabadas, pre seteadas. Es una falencia de todos los controles que usan comandos de voz, ya que no reconocen otras dicciones”.

Personas que viven con discapacidad, los últimos pasajeros

La tecnología del reconocimiento automático del habla tiene por delante, entonces, aún un camino por recorrer para que la inminente era post pantalla sea accesible a todos. La Sociedad Canadiense de Síndrome de Down, por ejemplo, lanzó en noviembre del año pasado Project Understood, una iniciativa para que las grandes compañías que diseñan asistentes de voz sumen a sus algoritmos datos de esa población tras comprobar que Google Home, por ejemplo, sólo reconoce el 30% de la palabras dichas por una persona que vive con Síndrome de Down. Al proyecto se sumó Google, que se comprometió a sumar 500 nuevas voces para mejorar sus algoritmos.

Mauro Alejandro Soto, un licenciado en ciencias de la comunicación salteño que está realizando un doctorado en CONICET sobre apropiación de tecnologías digitales de personas con discapacidad, grafica la situación con esta analogía inspirada por sus viajes a la ciudad de Buenos Aires: “Imaginate un subte que llega a la última estación y todos tienen que descender del vehículo. Bueno, la última persona que se baja es la que tiene discapacidad, aunque muchos creerían que debería ser de las primeras. El último al que se lo piensa como usuario es al que tiene una discapacidad, jamás se lo tiene en mente desde un comienzo”.

Soto lo sabe por experiencia propia. Algunas noches atrás decidió pedir comida por teléfono. Estaba en compañía de una amiga y, sin ganas de cocinar, ambos quisieron comer empanadas de un local popular de su ciudad. Intentaron utilizar varias aplicaciones de delivery desde su smartphone pero no tuvieron éxito: la interfaz estaba incompleta y se volvía confusa, no había manera de realizar el pedido a pesar de sus esfuerzos. No les quedó otra opción que llamar por teléfono y encargar su cena: “Son apps que uno tiende a usar más en este contexto de pandemia. PedidosYa, Rappi, Glovo… todas tienen fallas de accesibilidad que hacen que no puedan ser usar. No pude pedir mi cena porque muchos de sus botones no están etiquetados en su programación para que puedan ser interpretados por los programas de accesibilidad, entonces no puedo saber lo que dicen. También sucede que se ponen pesadas y se vuelve necesario tener un muy buen teléfono para usarlas, todas barreras para la accesibilidad para algo tan sencillo como pedir media docena de empanadas”, puntualizó. Soto vive con una discapacidad visual pero gracias a la tecnología pudo aprender a leer textos en formato digital y a escribir sus artículos e investigaciones. 

Se trata de una posibilidad que abrieron los algoritmos de aprendizaje automatizado: “leer en voz alta” lo que aparece en pantalla e incluso describir lo que aparece en una foto. En este sentido, las posibilidades actuales para las personas con discapacidad visual son mayores a las que tenían hace poco más de una década. A comienzos de siglo comenzaron a popularizarse los programas que permitían la accesibilidad para una computadora personal y, más tarde, para los teléfonos inteligentes. Sin embargo, sus licencias eran muy costosas y en dólares, lo que los ponía fuera del alcance de aquellos y aquellas que vivían en países como los de América Latina. La piratería y el “crackeo” de ese software se volvió una práctica corriente para aquellos que se animaban a asumir sus riesgos. Ahora los teléfonos celulares y las computadoras incluyen en sus sistemas operativos opciones de accesibilidad sin necesidad de comprar programas o apps especiales. Cuando la implementación es correcta, como sucede por ejemplo con el mensajero instantáneo Whastapp, estos algoritmos incluso pueden describir los emojis que se reciben en el chat.

Pero que una persona con discapacidad visual pueda sacar provecho de estas programas de accesibilidad requiere, a la vez, que las aplicaciones y las páginas webs estén diseñadas y programadas de manera compatible. De acuerdo a un informe de la consultora Deque, el 80% de los sitios de noticias estadounidenses tienen “problemas de accesibilidad significativos”. En el caso de las apps, muchas de las más populares presentan problemas graves, que redundan que Soto, por ejemplo, no pueda pedir una cena tal como podemos hacer muchos de nosotros. En cuanto a las páginas web, la coalición W3C -un consorcio internacional de gobiernos, ONG y empresas que determina los protocolos de estandarización del software que se utilizar en Internet- tiene pautas sobre accesibilidad que deberían ser observadas por todos pero que rara vez se cumplen. En tiempos de pandemia y aislamiento social, sus consecuencias negativas quedan aún más expuestas. “La Convención sobre los Derechos de las Personas con Discapacidad dice que los Estados tienen que generar páginas accesibles. Nosotros en Argentina tenemos una ley de accesibilidad web pero no se cumple en lo más mínimo. Se estima que sólo un 15% de las webs locales son realmente accesibles. Eso incluye, por ejemplo, la página de la ANSES que no es navegable para una persona con discapacidad visual”, puntualizó Soto. En efecto, la ley 26.653, que se reglamentó en agosto del año pasado, busca la accesibilidad de la información, facilitando especialmente el acceso a todas las personas con discapacidad con el objeto de garantizarles la igualdad real de oportunidades y trato, evitando así todo tipo de discriminación.

Software y hardware libre para no reinventar la rueda

Que los beneficios de tecnología pueda llegar realmente a todas las personas es una de las obsesiones de Nahuel González, un ingeniero en electrónica que fundó Innovar Para Incluir, un proyecto social orientado a la divulgación científica, el software libre y a la formación en tecnologías para la inclusión. González comenzó a interesarse por estos temas cuando conoció a Gaspar Olmedo, un joven de su misma edad que vivía con ELA, esclerosis lateral amiotrófica, y cuya sociabilidad había comenzado a disminuir porque no podía salir de su casa y pocas personas iban a visitarlo. Inspirado por él, junto con compañeros de la facultad diseñaron un sistema de hardware y software para que le permitió navegar por Internet, utilizar redes sociales y comunicarse con una voz que “leía” sus textos, que podía escribir a pesar de que, debido a que su enfermedad, no podía mover su cuerpo. 

Tras más de una década de trabajo, González reconoce que los desarrollos de la tecnología en general, y de los algoritmos de inteligencia artificial en particular, podrían ser mayores y llegar a más personas si estuviesen coordinados. Todas las grandes compañías – Chequeado habló con IBM, Google, Amazon Web Services y Globant- tienen sus propios proyectos de accesibilidad disponibles en Argentina y alrededor del mundo, pero no hay comunicación entre ellos. “Yo veo cotidianamente que se intenta reinventar la rueda en vez de encontrar una manera de tomar todas las herramientas que existen y construir a partir de ellas”, graficó el ingeniero, quien suele ser el referente de decenas de estudiantes de áreas técnicas que deciden hacer un proyecto de final de carrera sobre estos temas y avanzan con ideas que tuvieron otras personas pero no fueron debidamente comunicadas o no son fáciles de encontrar. Es algo que vivió en carne propia cuando se topó hace poco con un mouse accesible de una marca internacional con especificaciones básicas muy similares a desarrollos que él había hecho con un amigo quince años atrás pero que recién ahora se comercializaba a gran escala. En su visión se requiere de un cambio de paradigma que debe asumir los principios del código abierto: “Hay que apelar al software y el hardware de distribución gratuita. Trabajar en nuevas herramientas y recursos que tengan su código fuente disponible, para que no sean proyectos aislados de una empresa o de un grupo de estudiantes, sino realmente plataformas de esfuerzos colectivos que redundarán en beneficios para todos”, explicó.

¿Es correcto decir entonces que los algoritmos de inteligencia artificial excluyen a ciertas personas e incluyen a otras? Se trata de una simplificación de un problema más profundo, vinculado con la manera en la que se piensa y desarrolla la tecnología. En cada artefacto existe, desde su génesis, decisiones que toman las personas involucradas en su creación y, en ese sentido, la filosofía de la tecnología señala que esto implica posturas que pueden ser éticamente evaluables. La tecnología no es neutra en términos de valores, sino que desde su misma concepción tiene incorporada una visión del mundo. Cuando un asistente de voz no reconoce a una persona con síndrome de Down o cuando una app de delivery no puede ser utilizada por una persona con discapacidad visual, revela algunos de los valores con los que fue creada. La propuesta, entonces, es involucrar a las personas con discapacidad desde el momento mismo del diseño. En la visión de Soto, sería una acción de hondo sentido político y social: “Detrás de cada artefacto hay la sociedad que lo construye y lo utiliza. Si vamos a seguir trabajando en estos principios, la normalidad seguirá siendo excluyente. Si pudiésemos apropiarnos de esas tecnologías, saber un poco más de cómo generar hardware y software y cómo poder producir o acompañar a quienes crean veremos cómo las tecnologías se vuelven realmente inclusivas, herramientas reales para la educación, el trabajo, la recreación y la inclusión social”.

Por eso se vuelve una imperiosa necesidad comenzar mayor diversidad entre aquellos y aquellas que piensan, programan y prototipan tanto algoritmos de aprendizaje automatizado por hardware y cualquier otro tipo de tecnología. Esto implica sumar hombres y mujeres discapacitadas a estos procesos de creación y desarrollo de programas y dispositivos, lo que podría, a la vez, aliviar el problema de la desocupación en esta población vulnerable. De acuerdo a los resultados preliminares del Estudio Nacional sobre el Perfil de las Personas con Discapacidad que publicó el INDEC en 2018, al menos el 10.2% de la población argentina vive con algún tipo de discapacidad. Esto se corresponde con una estimación de 3.571.983 personas, entre las que el desempleo llega al 10.3%. Varela, desde la experiencia de ASDRA y Proyecto Dane, coincide en que podría ser una posibilidad para aquellos y aquellas que no siempre accede a buenos empleos. “Hoy, como mucho, se los incluye en el proceso de testing pero no es la norma y no siempre es una actividad rentada. Creo que hay que sentar en la mesa de decisiones a todos los que pueden llegar a ser usuarios de cada tecnología”, explicó

“La cuestión de fondo es pensar a la tecnología como un dispositivo social y político. La tecnología no es solamente un artefacto, un aparato que aparece así sin más, sino que existe por un motivo, por un modo de concebirla y también con un modo de uso. Las tecnologías digitales nacen en un proceso socio-político de mejorar la eficiencia y reinventar el capitalismo y que hoy son utilizadas para la vigilancia, para la apropiación de datos, para un montón de situaciones que, en la medida que no podamos controlarlas políticamente, no será tan positivas”, concluyó Soto. Repensar los algoritmos desde una mirada crítica y ética, situada en América Latina, se vuelve más necesario que nunca.

Esta nota es una de las ocho investigaciones latinoamericanas sobre las implicancias éticas del uso de inteligencia artificial y algoritmos en políticas públicas y empresas privadas a nivel regional. Todas estas piezas son financiadas por Chequeado gracias al apoyo de Knight Foundation. La nota que acabas de leer fue la seleccionada en la convocatoria abierta realizada en el marco de este proyecto.