Una web destapa el negoci de crear imatges sexuals amb IA

TikTok s’ha convertit en una mina per als pedòfils. Una investigació de la fundació Maldita.es ha destapat fins a 40 comptes en espanyol amb més d’1,5 milions de seguidors que es dediquen a compartir vídeos i imatges generades amb intel·ligència artificial de nenes i adolescents sexualitzades, així com a robar contingut creat per menors d’edat reals per distribuir-lo per internet en canals de pornografia i explotació infantil.

Nenes en biquini, amb uniforme de col·legiala o amb roba ajustada que els marca els genitals, els mugrons i les cames. Aquestes són algunes de les imatges sintètiques sexualitzades que circulen per TikTok. Moltes d’aquestes han sigut creades amb eines d’IA com ara Sora, d’OpenAI (creadora de ChatGPT), o TikTok AI Alive, una funció que permet "transformar fotos estàtiques en vídeos dinàmics i immersius". Tot i així, la majoria no tenen marques d’aigua que permetin als usuaris detectar que es tracta d’IA.

Darrere hi ha comptes que han aconseguit construir una comunitat entorn d’aquest contingut. Els 20 perfils analitzats (tot i que n’hi ha més) acumulen més de 553.000 seguidors i més de 5,7 milions de m’agrada. La majoria dels vídeos s’omplen de comentaris més o menys explícits dels usuaris, majoritàriament homes adults. "Fins al fons", demana un. "Cal donar-los el que demanen", assenyala un altre.

"Els vídeos de la teva filla ballant també són part d’aquest material", manifesta l’informe. De fet, Maldita.es també ha detectat 20 comptes més que es dediquen a republicar i recopilar vídeos de nenes i adolescents reals en els quals apareixen ballant, cantant, parlant o mostrant la seva rutina. El que per a elles és normal, a ulls d’un pedòfil cobra un altre significat diametralment oposat. A efectes pràctics, aquests comptes serveixen per fer arribar aquest contingut legítim a una comunitat de potencials pederastes que omplen els vídeos de comentaris del tipus "ufff, en vull una per a mi així".

Notícies relacionades

La ‘cosina’ sevillana visita la Moreneta

D’antic teatre a superlaboratori

Un negoci fosc

Aquesta problemàtica realitat és també un negoci fosc. Els comptes detectats es lucren venent aquestes imatges sexualitzades creades amb IA generativa. Ho fan a través del sistema de subscripció de TikTok, pel qual la plataforma propietat de ByteDance es queda amb una part dels guanys, fins al 50% en alguns casos. Per accedir a aquest contingut ocult, els usuaris han de pagar una quota mensual amb un preu que oscil·la entre els 3,49 i els 115,99 euros.