Deepfakes en escuelas porteñas: el 43% de los adolescentes recibió alguna vez imágenes o videos hechos con IA

Los casos de los colegios Nacional de Buenos Aires y Carlos Pellegrini, donde alumnos fueron denunciados por difundir y vender por WhatsApp imágenes manipuladas con inteligencia artificial (IA) de sus compañeras desnudas, vuelven a poner el foco en los deepfakes sexuales.

A fines de junio, alumnas de estas instituciones comenzaron a denunciar la existencia de estos grupos. Según trascendió, la causa es investigada como producción y difusión de imágenes de explotación sexual infantil, y habría 50 menores involucrados en la propagación del material audiovisual.

Los hechos no son aislados. Forman parte de un fenómeno creciente: el uso de herramientas de IA para modificar fotografías, por ejemplo, retirando digitalmente la ropa, y crear imágenes sexualizadas o desnudos falsos de personas reales.

Si bien solo el 1% de los adolescentes porteños de entre 12 y 19 años reporta haber sido víctima directa de los deepfakes, al menos un 43% afirma haber recibido imágenes o videos manipulados con IA y un 13% conoce casos dentro de su entorno escolar, según un nuevo informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires. Además, apenas el 35% de los adolescentes consultados afirma verificar si las imágenes que recibe son auténticas.

Los deepfakes sexuales también alcanzan a las escuelas

En los últimos años se hicieron públicos distintos casos de adolescentes y jóvenes afectados por la creación y difusión de imágenes sexuales falsas.

El informe de la Defensoría analiza, entre otros, un caso de San Juan, donde un estudiante universitario creó imágenes pornográficas con IA de compañeras y las difundió en sitios para adultos, y otro caso en Córdoba, donde un joven de 18 años fue imputado por generar imágenes sexuales falsas de más de 20 alumnas.

El fenómeno también generó preocupación a escala internacional. Una investigación de Unicef, ECPAT -una organización dedicada a combatir la explotación sexual infantil- e Interpol realizada en 11 países estima que al menos 1,2 millones de niños y niñas fueron afectados durante el último año por la manipulación de sus imágenes mediante deepfakes con contenido sexual explícito.

En enero de 2026, además, Grok, el chatbot de IA de X, quedó en el centro de la polémica después de que usuarios comenzaran a utilizarlo para generar imágenes de mujeres desnudas sin su consentimiento, incluidas menores de edad.

El impacto en la salud mental

La posibilidad de que circule un contenido manipulado con su imagen también genera preocupación entre los adolescentes: el 52% manifestó niveles altos de preocupación ante esa situación, según el informe de la Defensoría.

El impacto percibido es principalmente emocional. El 82% reconoce efectos negativos en la salud mental y el 64% señala consecuencias negativas en las relaciones sociales.

También aparecen otros posibles efectos: un 42% menciona la desconfianza en el uso de tecnologías, un 39% advierte que estas situaciones pueden derivar en conflictos presenciales o violencia física y un 32% señala consecuencias sobre el rendimiento escolar.

Frente a una situación de violencia digital, el 66% dice que evita compartir contenidos dañinos y el 56% afirma que brinda apoyo a la persona afectada. En cambio, sólo el 26% recurre a adultos o autoridades escolares y un 27% reconoce no haber realizado ninguna de estas acciones.

Al indagar sobre las respuestas frente a la recepción no solicitada de imágenes o mensajes de contenido sexual, la acción más frecuente mencionada por los y las estudiantes fue bloquear a la persona que envió el contenido (60%). 

Qué pueden hacer familias, escuelas y plataformas

La conversación sobre estas situaciones tampoco parece estar instalada de manera permanente en todos los hogares. El 65% de los estudiantes señala que habla del tema algunas veces, mientras que un 22% dice que nunca lo hace. Según la Defensoría, aproximadamente 2 de cada 10 adolescentes no tienen un espacio familiar de conversación sobre problemáticas vinculadas con los entornos digitales.

¿Con qué acciones podría abordarse la problemática? Las respuestas reflejan una demanda clara de prevención (63%) y de dispositivos de acompañamiento psicológico (60%), donde los adolescentes destacan el rol de la escuela como espacio clave para la intervención.

En este sentido, desde la Defensoría del Pueblo de CABA proponen “diseñar y fortalecer capacitaciones específicas en prevención de violencia digital y uso crítico de tecnologías; promover prácticas de verificación de contenidos; e implementar dispositivos de contención y medidas reparatorias para las comunidades educativas afectadas por hechos de vulneración de derechos digitales”.

Además, el organismo presenta propuestas para incorporar de manera central la responsabilidad de las empresas tecnológicas. “Si bien el 44% de los y las adolescentes conoce la posibilidad de denunciar contenidos ante la plataforma, esta opción es menos utilizada que la búsqueda de apoyo en el entorno cercano (73%), lo que evidencia límites en la eficacia y accesibilidad de estos mecanismos”, señala.

Como advierten desde Unicef, “las imágenes sexualizadas de menores creadas o manipuladas por herramientas de IA constituyen imágenes de abusos sexuales de niños y niñas. Los abusos cometidos mediante deepfake siguen siendo abusos y, aunque las imágenes sean falsas, el daño que causan es absolutamente real”.