Videos falsos de Macri y Lospennato en X: qué pasó en la realidad con lo que ordenó la Justicia

Este miércoles por la noche el presidente Javier Milei habló en La Nación+ sobre los videos hechos con inteligencia artificial (IA) del líder del PRO, Mauricio Macri, y la candidata a legisladora por ese partido, Silvia Lospennato, que circularon el sábado por la noche, en plena veda electoral. 

Al respecto, el mandatario amparó su divulgación como un ejercicio de libertad de expresión y dijo que “es una locura el planteo de perseguir a los que están en las redes sociales”. 

La denuncia del PRO y la resolución de la Justicia

La circulación de los contenidos hechos con IA generó la presentación de una denuncia formal sobre el video de Macri por parte de Ezequiel Jarvis y Matías Giampaolo, apoderados de la alianza electoral “Buenos Aires Primero”, que encabezaba Lospennato.

Tras la denuncia del PRO, el Tribunal Electoral de la Ciudad de Buenos Aires emitió una resolución en la madrugada del domingo en la que ordenaba retirar las publicaciones de la red social X. Los jueces Roberto Requejo, Romina Tesone y Rodolfo Ariza Clerici señalaron que “la circulación del contenido denunciado, al inducir a error, podría afectar el ejercicio libre e informado del voto por parte de los electores”.

El fiscal penal Maximiliano Vence le pidió el domingo a la empresa de Elon Musk que elimine “de forma inmediata el video” “que fue generado mediante el uso de herramientas de IA, y que contiene información falsa con impacto directo en el proceso electoral que se desarrolla (…) vulnerando la normativa vigente y el derecho de los ciudadanos a emitir un voto informado”, dice el oficio dirigido a X y firmado por el fiscal Vence.

Y continuó: “La permanencia de este contenido en la red social constituye un riesgo para la transparencia del proceso democrático, razón por la cual se solicita la pronta intervención para eliminar el video en todas sus versiones y réplicas”.

El escrito del PRO pidió que, “una vez obtenida la información técnica relevante, se dispongan las medidas de allanamiento necesarias para asegurar los dispositivos utilizados en la elaboración y difusión del video y así identificar a los autores materiales e intelectuales de la maniobra denunciada”. Esto forma parte de la investigación del fiscal Vence.

El artículo 140 del Código Electoral nacional castiga a la “inducción con engaños” y prevé “prisión de dos meses a dos años al que con engaños indujere a otro a sufragar en determinada forma o a abstenerse de hacerlo”. 

“Habría que ver si fuese posible demostrar que un video de esta naturaleza tuvo la capacidad efectiva de inducir a alguien a cambiar su voto, lo cual -estimo- es muy difícil de probar”, señaló a Chequeado Ramiro Álvarez Ugarte, vicedirector del Centro de Estudios en Libertad de Expresión y Acceso a la Información (CELE).

Los videos falsos denunciados por el PRO siguen disponibles en X

En el escrito presentado por los apoderados del PRO se señaló que el video se difundió en al menos 9 cuentas: @gordoedicion, @GordoDan_, @tommyshelby_30, @TalibanMilei, @LaFuerzadeMilei, @TTendenciaX, @ElTrumpista, @TheRealBuni y @ElPittttt.

Muchas de los usuarios que difundieron ambos videos son las más reposteadas y likeadas por el presidente de la Nación, Javier Milei, como se demuestra en esta investigación de Chequeado.

De todas maneras, a pesar del pedido de la Justicia, todos los videos denunciados por el PRO siguen disponibles al momento de publicación de esta nota. Además, otras publicaciones no mencionadas en aquel escrito también siguen disponibles online.

“Dada la velocidad y al fenómeno de la viralidad, los intentos por dar de baja contenidos en Internet resultan bastante inútiles: la información circula a una velocidad que vuelve muy difícil una intervención judicial o estatal efectiva”, sostuvo Álvarez Ugarte.

“Ninguna plataforma regula qué cosas se mantienen o no a través de medidas cautelares, sino que este tipo de contenidos deben ser moderados a través del área de moderación de la plataforma. Es decir, a través de un sistema que los da de baja en tiempo real. No tiene sentido regular luego porque a esta altura la información ya circuló”. señaló, por su parte, Ernesto Calvo, investigador de la Universidad de Maryland (Estados Unidos) y coautor del libro Fake news, trolls y otros encantos: cómo funcionan (para bien y para mal) las redes sociales.

En un contexto en el que las plataformas dieron de baja su política de moderación de contenidos, expertos señalan que es importante apostar por la alfabetización mediática para detectar desinformación.

Para Álvarez Ugarte, en general, vamos a tener que estar preparados para ver estas cosas cada vez más seguido: “Creo que gran parte de la solución pasa por educarnos más, como ciudadanos, para detectar estas desinformaciones cuando las vemos”.

El impacto de la desinformación y la inteligencia artificial en tiempos electorales

El secretario General de la Organización de las Naciones Unidas (ONU), António Guterres, destacó la naturaleza dual de la IA en su discurso ante el Consejo de Seguridad, señalando que, si bien la IA puede acelerar el desarrollo humano, también plantea riesgos significativos si se utiliza maliciosamente.

Según la ONU, la IA puede aprovechar los macrodatos para influir en la toma de decisiones de los votantes. “Su capacidad para lanzar ciberataques, producir deepfakes y difundir desinformación podría desestabilizar los procesos democráticos, amenazar la integridad del discurso político y erosionar la confianza pública”, sostuvo.

¿Cuál fue el posible impacto de la difusión de los videos con IA?

“Es difícil medir los efectos de lo que pasó, no sabemos cuánta gente lo vio, cuánta de la gente que lo vio lo creyó y cuánta gente que lo vio lo hizo después de que ya se había desmentido, porque la desmentida del PRO fue relativamente rápida”, señaló a Chequeado Eugenia Miltchestein, directora del Departamento de Ciencias Sociales de la Universidad de San Andrés y con un doctorado en Medios, tecnología y sociedad de la Universidad Northwestern (Estados Unidos).

De todas maneras, expertos consideran que la desinformación que se difundió fue grave, como también lo fueron otras que circularon con anterioridad. “No es la primera vez que circula desinformación previo a una elección. Creo que es grave en todos los casos, es preocupante y no debería suceder. Pensando en la elección de 2019, circuló el video de Patricia Bullrich ralentizado en el que parecía borracha. O en 2023 el video falso de Sergio Massa consumiendo cocaína”.

“El uso de herramientas de inteligencia artificial sólo predicen un futuro más difícil en la materia. Aún no estamos allí, pero en un futuro va a ser más difícil de identificar la falsedad de los videos. En todo caso, es un típico caso de desinformación: la producción de información falsa con el fin de engañar a la población. No hay ningún tipo de sátira o ironía en el mensaje”, sumó Álvarez Ugarte.