Cómo se usa la inteligencia artificial para generar indignación: falsos migrantes, manifestaciones y votantes

Imágenes de supuestas migrantes bolivianas embarazadas que intentan cruzar la frontera argentina, y son detenidas por Gendarmería. En un día, el tema logra 6 mil millones de visualizaciones en redes sociales y más de 1.200 menciones. En México, una imagen muestra a un grupo de migrantes venezolanos saqueando una tienda, y otra presenta a una mujer cubana quemando una bandera mexicana. Todo fue generado con inteligencia artificial (IA) con un único objetivo: generar rabia e indignación.  

Imágenes generadas con IA de supuestos migrantes.

Estos son sólo algunos ejemplos de contenidos que buscan exacerbar los sentimientos antiinmigrantes y que circularon en distintos países de América Latina durante los últimos meses. Pero el fenómeno está lejos de ser exclusivamente regional. 

En Alemania, una cuenta promovió a un supuesto candidato musulmán a la alcaldía de Biefeld, que proponía construir más albergues para refugiados y una gran mezquita. Según Correctiv, una organización de fact-checking alemana, el candidato no existe -de hecho no hay elecciones previstas en Bielefeld hasta 2030- y fue generado con IA. Eso no impide que lleguen cientos de comentarios racistas y con indignación a los falsos posteos. 

La IA también se usa para exagerar la presencia de inmigrantes en distintas ciudades de Europa o en Estados Unidos. En Londres, por ejemplo, circulan videos en los que se modifican los carteles de las tiendas para que aparezcan en árabe o se muestran barrios poblados por jóvenes que se ven amenazantes, algunos con pasamontañas añadidos con IA, según un análisis de la BBC. En otros casos, el contenido es abiertamente sintético, como videos que muestran una Londres distópica en 2050, presentada como si fuera una consecuencia inevitable de la inmigración. 

Una imagen a la que se le agregaron textos en árabe con IA; la otra es un video de “Londres en 2050”.

La potencia de la IA

La desinformación sobre migrantes y otros grupos vulnerables no es nueva. Pero el uso de IA le da algunas características propias.

“Estos videos suelen ser caricaturescos y exagerados. Así como las thirst traps [imágenes sexuales hechas para llamar la atención] generadas con IA alimentan expectativas poco realistas sobre la imagen corporal, el contenido xenófobo generado por IA deshumaniza y caricaturiza aún más ‘al otro’. Y lo hace de una manera mucho más potente que el texto por sí solo”, explicó a Chequeado Alexios Mantzarlis, co fundador del newsletter The Indicator, especializado en manipulación y engaños digitales. 

En la misma línea, Daniel Bramatti, director de la Unidad de Verificación del medio brasileño Estadao (Brasil), señaló que “la IA impulsa la proliferación de personajes sintéticos creados para fomentar el miedo, el odio y el descontento social”. Y agregó: “Estos avatares virtuales dan la apariencia de que narrativas xenófobas, discriminatorias y polarizantes se basan en la realidad, a pesar de que los rostros y los relatos sean totalmente inventados”. 

En algunos videos generados con IA, identificar que se trata de contenido sintético puede ser difícil. En otros, las señales de que son falsos parecen mucho más evidentes. Sin embargo, a juzgar por los comentarios, muchos usuarios los toman por reales y reaccionan ante ellos como si mostraran hechos que realmente ocurrieron. 

Quiénen están detrás 

No siempre es fácil determinar quiénes están detrás de las cuentas que publican estos contenidos y qué buscan. La motivación política parece ser la explicación más evidente. Pero también puede haber incentivos económicos. “Hay bastante evidencia de que hay  fábricas de contenido basura que apuntan a grupos demográficos específicos por razones económicas, especialmente cuando el objetivo es la audiencia estadounidense, más rentable”, explicó Mantzarlis.  

La dinámica es sencilla: para poder monetizar las cuentas en redes sociales, estas necesitan conseguir el mayor número de interacciones posibles. Y la rabia es una gran manera de hacer reaccionar a las personas. Por eso, el concepto de ragebait (contenido para generar bronca que se usa como anzuelo) fue la palabra del año en 2025 por el Diccionario de Oxford.

De hecho, algunas de las cuentas que compartieron contenido antiinmigrante sobre Londres son manejadas desde fuera del país, explicó la BBC, y algunos de sus creadores reconocieron que lo que buscan es generar dinero. 

Algo similar ocurrió con Doña María, una supuesta señora que criticaba al gobierno brasileño de Lula Da Silva en cientos de videos en redes sociales, pero que en realidad era un avatar generado con IA. La cuenta era manejada por una persona que trabaja conduciendo en una aplicación, y que dijo que lo hacía para tener un ingreso extra. El caso se encuentra actualmente en el Tribunal Superior Electoral de Brasil. En Argentina, por su parte, ya nacieron perfiles de “influencers” políticas que difunden mensajes y posturas políticas, como Lucía Libertaria y Julia Riojana.

Y, alrededor del mundo, cientos de videos de supuestas protestas son creaciones de IA diseñadas para lucrar con la polarización. Una investigación de Maldita.es, un sitio de chequeadores español, encontró más de 500 cuentas que publican este tipo de contenidos, que incluyen videos de iraníes protestando en las calles, manifestantes británicos arrestados en marchas a favor de Palestina o muestras de apoyo a varios candidatos en una elección. 

Sobre la circulación de los contenidos generados con IA y las intenciones, Mantzarlis aseguró: “Lo que sí podemos afirmar con certeza es que habría menos de este contenido sin la IA, que facilita su producción, y sin las plataformas que incentivan su generación mediante el reparto de ingresos por contenido viral”.

La circulación de este contenido sintético puede tener impacto en la percepción de los ciudadanos sobre los diferentes temas. En América Latina, el 20% de los contenidos chequeados por los verificadores ya fue generado o manipulado con IA, una proporción que probablemente solo se incrementará en el futuro.