Manipulació de la realitat

Porno no consentit, la gran amenaça dels ‘deepfakes’

  • Creix l’ús de vídeos manipulats, cada vegada més accessibles i sofisticats, per a falsa pornografia que castiga doblement les dones

  • Aquesta recent aparició fa que les autoritats encara no comptin amb protocols per combatre el mal ús d’aquesta tecnologia

Es llegeix en minuts

La classe política espanyola com si fos l’Equipo A, Hitler i Stalin cantant ‘Video Killed the Radio Star’ o Jennifer Lawrence recollint un premi amb la cara de Steve Buscemi. Segurament en els últims mesos has rigut amb algun d’aquests hipnòtics ‘deepfakes’, vídeos manipulats digitalment que permeten retocar les imatges per col·locar la cara d’una persona al cos d’una altra, creant realitats paral·leles confuses. Tot i que s’ha parlat molt del potencial d’aquesta tecnologia per a l’engany i la manipulació política, la seva principal amenaça és molt més tangible: la pornografia sense consentiment. I és que, segons un estudi del grup d’investigació Deeptrace, el 96% dels ‘deepfakes’ detectats recreen escenes de sexe. Sensity, una companyia d’intel·ligència ubicada a Amsterdam, alerta que aquest 2020 aquests vídeos s’han popularitzat, se n’han penjat fins a 1.000 per mes. Els primers ‘deepfakes’ van aparèixer el 2017, però molt ha canviat des d’aleshores. La tecnologia d’intel·ligència artificial és cada vegada més precisa i complexa i el nombre d’aplicacions que faciliten la creació d’aquests vídeos s’ha disparat. El 2016, es va requerir tot un equip d’experts perquè la princesa Leia –la ja morta Carrie Fisherpogués aparèixer a la pel·lícula ‘Rogue One’. Ara, el fenomen s’ha popularitzat i la seva accessibilitat ha portat que usuaris amb coneixements bàsics puguin utilitzar la tecnologia per realitzar paròdies, però també per explotar falses recreacions pornogràfiques.

Així, aplicacions com DeepNude (ja eliminada) només necessiten una fotografia de les seves víctimes –fàcilment extraïble del seu perfil de Facebook o altres plataformes– per recrear vídeos pornogràfics més o menys creïbles. Això és el que ha succeït a més de 680.000, víctimes d’un ‘bot’ d’un canal de Telegram que despullava les fotos que els enviaven altres usuaris. Segons Sensity, abans de desarticular-se la xarxa comptava amb 101.080 membres, uns 70% dels quals resideixen a Rússia o l’Est d’Europa. En un 70% dels casos detectats, les fotos provenien de xarxes socials o fonts privades. Abús contra les dones

DeepNude fàcilment extraïble del seu perfil de FacebookTelegram xarxes socialsPràcticament totes les víctimes d’aquestes manipulacions pornogràfiques són dones famoses. Les pàgines web de porno estan plenes d’aquests vídeos sexuals, alguns de tan elaborats –gràcies a l’exposició mediàtica d’aquestes celebritats– que són totalment creïbles. Entre les més afectades, segons Sensity, estan les actrius Scarlett Johansson, Gal Gadot i Angelina Jolie o la cantant Ariana Grande. La mida del problema és difícilment mesurable. Sensity mira de portar els comptes: el juliol de 2019 havien detectat 14.678 vídeos, aquest juny 49.081 i a data de la publicació d’aquest reportatge la xifra ja arriba als 82.266. Fins a 3.398 personatges públics s’han vist afectats pels ‘deepfakes’. Però els experts adverteixen que aquestes tèrboles pràctiques colpegen cada vegada més tota mena de dones, que ni sospiten de la seva presència en aquests racons foscos d’internet. I és que, més enllà de satisfer perverses fantasies sexuals, els ‘deepfakes’ de nus poden servir per assetjar o fer xantatge a les seves víctimes, una cosa que pot traduir-se en conseqüències que van de la humiliació pública a la pèrdua de l’ocupació o a la violència de gènere. «Tot això forma part de l’assetjament a què les dones han d’enfrontar-se en l’entorn digital, ja sigui a través de troleig o de l’abús sexualitzat procedent de tots els racons de l’espectre polític», explicava l’analista tecnològica Nina Jankowicz en declaracions a ‘BuzzFeed’.

El gran impacte del porno

Et pot interesar

El febrer del 2018, el portal pornogràfic Pornhub –els vídeos del qual es veuen més de 100.000 milions de vegades a l’any– va assegurar que prohibiria la difusió de ‘deepfakes’. No obstant, dos anys i mig després encara era senzill trobar una ingent quantitat d’aquestes manipulacions circulant per la pàgina, violant les seves pròpies polítiques. Al visualitzar-lo, a més, l’algoritme de Pornhub recomanava més ‘deepfakes’ amb altres víctimes. A principis de desembre, la pàgina va eliminar més de 13 milions de vídeos no consentits de la seva plataforma després de destapar-se que s’havia lucrat de la monetització de vídeos amb violacions o assetjament de menors. Alguns d’aquests canals serveixen per redirigir l’usuari a xats privats de Telegram, on es venen vídeos personalitzats o es donen tutorials pagats per aprendre a realitzar aquestes manipulacions. El fenomen es repeteix en altres webs pornogràfiques com XVideos, xHamster o Mr. Deepfakes, on les visualitzacions es compten per milions. En l’última fins i tot s’insta els usuaris a compartir les seves «creacions». Aquestes pàgines no són residuals. XVideos i Pornhub són entre els 10 webs més visitats del món, més que Amazon, Netflix o Zoom. Conseqüències legals

Pornhub més de 13 milions de vídeos no consentitsXVideosxHamsterMr. DeepfakesXVideos i Pornhub són entre els 10 webs més visitats del món,A diferència del que passa a la Xina o als Estats Units, a Espanya no hi ha una legislació específica que reguli els ‘deepfakes’ i s’utilitza la que ja regula el dret d’imatge, la protecció de la privacitat i la suplantació d’identitat, com explica Vanessa Alarcón, vocal de secció de drets de propietat intel·lectual del Col·legi de l’Advocacia de Barcelona. A Europa, la reacció legal tendeix a perseguir les conseqüències que tingui el seu ús, no la mateixa tecnologia. «Regular tots els ‘deepfakes’ podria portar a censura prèvia», adverteix l’advocat Sergio Carrasco Mayans. Així, els vídeos manipulats amb la intenció de realitzar paròdies poden recaure sota el paraigua de la llibertat d’expressió, mentre que aquells que atempten contra l’honor i la mateixa imatge, com els pornogràfics, poden suposar un delicte d’injúries, difamació o calúmnies i portar multes, indemnitzacions i fins i tot condemnes. «Se’t condemna si ets fal·laç, si vols enganyar la gent amb aquesta manipulació», explica l’advocat Borja Adsuara. La novetat d’aquesta tecnologia i els abusos que es cometen amb ella fa que encara no hi hagi respostes clares. Consultats per aquest diari, els Mossos d’Esquadra confirmen que no tenen un protocol que contempli els riscos dels ‘deepfakes’ ni les seves prevencions. «A mesura que vagin apareixent nous casos, una cosa que desgraciadament succeirà, s’aniran establint nous protocols», assenyala Carrasco. Adsuara alerta que aquests mètodes per manipular la realitat s’estenguin a altres àmbits com en la falsificació de proves. «Encara no ha esclatat, però ho farà».