La foto del Papa Francisco con una campera blanca no es real, fue creada con inteligencia artificial

El última fin de semana, circuló en redes sociales una imagen del Papa Francisco con una campera puffer blanca. Varios usuarios, como la actriz y comediante argentina Malena Pichot, preguntaron si se trataba de una imagen real. Además, la imagen circuló en otros países -como en los Estados Unidos- donde el influencer Ian Miles Cheong tuiteó la foto junto al texto: “El Papa es un ícono de la moda. Respeto”. 

Sin embargo, esta imagen –que fue tendencia en Twitter– es falsa y se trata de un deepfake. Como explicó Chequeado, los deepfakes son imágenes, videos y pistas de audio manipulados o generados sintéticamente con tecnología basada en inteligencia artificial. El objetivo es crear imágenes falsas pero que sean creíbles. En ellos, suelen aparecer rostros, cuerpos o voces humanas que pueden parecer auténticas y naturales

Según la revista Forbes, la imagen se creó utilizando Midjourney, una herramienta de inteligencia artificial que permite generar imágenes falsas increíblemente realistas. Luego, la imagen se compartió el viernes 24 de marzo último en Reddit antes de llegar a Twitter durante el fin de semana.

Cómo reconocer un deepfake

Chequeado se comunicó con @ElMalaguero, un diseñador argentino que trabaja en redes sociales, quien explicó: “Cuando vi la imagen lo primero que pensé fue ‘está creada con Midjourney’, así que fui a chequear los detalles de la foto: los anteojos, qué es lo que lleva en la mano, la cruz y los anillos. Lo primero que llama la atención es que el Papa (por tradición) sólo usa un anillo llamado ‘Anillo del Pescador’ en la mano derecha. Esa fue la primera cosa que delató que era una imagen generada por IA”. 

Luego, @ElMalaguero decidió recrear la foto en Midjourney. “La idea era demostrar que era una imagen generada por IA”, señaló. 

Otra forma para determinar si una imagen o un video podría ser generado por IA es mirarle las manos a la persona que aparece en el contenido. Midjourney tiene dificultades para generar manos, como se puede ver en la mano derecha del Papa. 

Mira el dato bolud* que te voy a tirar: Lo primero que lo delata son los anillos xq el papa solo usa un anillo en la mano derecha. https://t.co/iUW844wmbM

— El Malaguero (@ElMalaguero) March 26, 2023

El MIT Media Lab, un laboratorio dentro de la Escuela de Arquitectura y Planificación en el Instituto de Tecnología de Massachusetts (EE.UU.), aconseja también prestar atención a la cara de quien aparece en el video o en la imagen y hacerse algunas preguntas como estas: “¿La piel parece demasiado suave o demasiado arrugada? ¿El envejecimiento de la piel es similar al del cabello y los ojos?”.

También recomienda fijarse en los ojos, las cejas y las gafas. Por ejemplo, si aparecen sombras en los lugares esperados, si la persona parpadea demasiado o muy poco o si cambia el ángulo del resplandor en los cristales de las lentes cuando la persona se mueve.

En el caso de los videos, además de observar los movimientos de los labios y en si se sincronizan con la voz, el MIT Media Lab también sugiere prestar atención al vello facial o a la falta del mismo. “¿Parece real? Los deepfakes pueden agregar o quitar bigote, patillas o barba. Pero pueden no lograr que las transformaciones del vello facial sean completamente naturales”, destaca.

La foto viral del Papa con la campera blanca no fue la única que circuló en redes sociales. Se le sumaron otras similares sobre él, como muestra este tuit del sitio cultural Mixtapez. 

Además, no es la primera vez que circula una foto creada por Midjourney en las redes sociales. Esta herramienta se usó para crear imágenes del arresto del ex presidente de Estados Unidos, Donald Trump. Incluso, Trump compartió una imagen falsa generada por IA de sí mismo arrodillado para orar.

Este chequeo es parte de la iniciativa Third Party Fact-checker de Facebook en la Argentina. En los casos de fotos y videos trabajamos con imágenes trucadas o sacadas de contexto y siempre analizamos en conjunto las imágenes junto con el texto con el que fueron presentadas.