Depredadors a TikTok: una investigació posa al descobert el negoci pedòfil d’utilitzar IA per generar imatges sexuals de menors d’edat

Nenes en biquini, amb uniforme de col·legiala o amb roba ajustada que marca els genitals, els mugrons i les cames. Aquestes són algunes de les imatges sintètiques sexualitzades que circulen per TikTok. Moltes d’elles han sigut creades amb eines d’IA com Sora, d’OpenAI (creadora de ChatGPT), o TikTok AI Alive, una funció que permet «transformar fotos estètiques en vídeos dinàmics i immersius». Tot i així, la majoria no tenen marques d’aigua que permetin als usuaris detectar que es tracta d’IA.

Darrere, hi ha comptes que han aconseguit construir una comunitat entorn d’aquest contingut. Els 20 perfils analitzats (tot i que n’hi ha més) acumulen més de 553.000 seguidors i més de 5,7 milions de ‘m’agrada’. La majoria de vídeos s’omplen de comentaris més o menys explícits dels usuaris, majoritàriament homes adults. «Fins al fons», demana un. «Cal donar-los el que demanen», apunta un altre.

«Els vídeos de la teva filla ballant també són part d’aquest material», diu l’informe. I és que Maldita.es també ha trobat 20 comptes més que es dediquen a republicar i recopilar vídeos de nenes i adolescents reals en els quals apareixen ballant, cantant, parlant o mostrant la seva rutina. El que per a elles és normal, a ulls d’un pedòfil cobra un altre significat diametralment oposat. A efectes pràctics, aquests comptes serveixen per fer arribar aquest contingut legítim a una comunitat de potencials pederastes que omplen els vídeos de comentaris del tipus «ufff, en vull una per a mi així».

Un fosc negoci (també per a TikTok)

Aquesta problemàtica realitat és també un fosc negoci. Els comptes detectats es lucren venent aquestes imatges sexualitzades creades amb IA generativa. Ho fan a través del sistema de subscripció de TikTok, pel qual la plataforma propietat de ByteDance es queda amb una part dels guanys, fins al 50% en alguns casos. Per accedir a aquest contingut ocult, els usuaris han de pagar una quota mensual el preu de la qual oscil·la entre els 3,49 i els 115,99 euros.

No obstant, els comptes també guanyen diners fora de TikTok. I és que algunes dirigeixen els usuaris a pàgines web externes i altres plataformes com Telegramen les quals comercialitzen amb aquest material d’explotació sexual de menors. Els comptes que fan caixa amb això aprofiten la secció de comentaris dels vídeos de nenes reals per promocionar el seu negoci i mirar d’atraure altres pedòfils. Maldita.es ha identificat 12 comptes de Telegram que venen material il·legal i en set ocasions van obtenir proves que tenen pornografia infantil, una cosa que ja han denunciat davant la Policia Nacional.

¿Què fa TikTok?

Notícies relacionades

Controls d’alcohol aleatoris i a qualsevol hora del dia: la policia intensifica la vigilància pels dinars i sopars d’empresa

Laiglesia vivia a l’edifici de l’assassinat d’Helena Jubany

Sobre el paper, les normes de TikTok prohibeixen els «comptes centrats en imatges d’IA de joves amb vestis per a adults, o posats o expressions facials sexualitzades». Maldita.es en va denunciar fins a 15 a través dels canals de la plataforma. No obstant, 72 hores després els comptes denunciats continuaven disponibles al considerar que no infringien les seves polítiques. D’aquesta manera, TikTok podria incomplir la llei de serveis digitals (DSA), la normativa europea que obliga les plataformes a avaluar si suposen riscos per als menors.

Per acabar-ho d’adobar, la investigació recalca que l’algoritme de TikTok podria estar amplificant aquest tipus de contingut al recomanar-ho tant a la pestanya de ‘per a tu’ com al cercador de la plataforma. Això, adverteixen, pot submergir els usuaris en un bucle de vídeos sexualitzats que els posen «només a un clic de distància de pornografia infantil».