L’Eurocambra pressiona la Comissió Europea perquè actuï contra els ‘deep fake’ sexuals a les xarxes

«Despullar altres persones sense el seu consentiment, especialment nens, mai està bé, però pots triar fer negocis de mil maneres innovadores, ¿i tot i així elegeixes nens en biquini?», ha dit l’eurodiputada eslovaca Veronika Cifrová , que ha explicat com un vídeo generat amb intel·ligència artificial ballant en biquini es va fer viral quan va entrar en política per mirar de desacreditar-la. El vídeo, malgrat les denúncies, continua circulant a la xarxa. «Soc adulta. Estic preparada per lidiar amb això, tot i que no crec que ho hagi de fer», ha dit l’eslovaca. L’eurodiputada ha alertat sobre l’impacte brutal que això pot tenir per als col·lectius més vulnerables, començant pels adolescents. 

Prohibició immediata

«Però aquest no és només un problema d’una empresa. Hem d’anar més enllà i concentrar-nos a fer-ho realment impossible», ha defensat Cifrová. L’eslovaca, com molts dels seus col·legues, ha demanat a la Comissió Europea que s’asseguri que sigui impossible a la UE utilitzar eines que permetin despullar persones en imatges falses sense el seu consentiment. 

«Necessitem accions: la prohibició a tota la UE del material d’abús sexual infantil generat per IA i els sistemes que el produeixen», ha dit l’eurodiputat popular holandès Jeroen Lenaers. «Les plataformes han d’anteposar la responsabilitat als beneficis; la seguretat ha d’estar incorporada des del disseny», ha afegit. 

L’eurodiputada de l’Esquerra, Ilaria Salis, ha apuntat que, en darrer terme, el problema és «l’horroible mentalitat patriarcal i el sexisme que milions d’usuaris allotgen». Però també ha apuntat a la responsabilitat de les plataformes. «La tecnologia i la intel·ligència artificial no són neutrals», ha dit Salis, que ha cridat a crear plataformes públiques sota control democràtic. 

Una pràctica «inacceptable»

La vicepresidenta de la Comissió al càrrec de l’agenda digital, Henna Virkkunen, ha reconegut que aquestes «horribles pràctiques no són noves, però sí l’escala i la velocitat amb què la intel·ligència artificial les està amplificant». La Comissió no ha obert una investigació com a tal, però sí que va sol·licitar a X fa unes setmanes retenir tota la documentació disponible sobre Grok, com a part d’una anàlisi més àmplia sobre possibles pràctiques il·legals a la plataforma. 

«En l’àmbit de la UE, podem respondre a aquests riscos mitjançant el nostre complet reglament digital amb la governança de plataformes, la protecció de dades, la llei d’IA i el dret penal», ha explicat Virkkunen. Per a la Comissió, el bloc té eines. Per a l’Eurocambra, el problema és que no els està donant prou ús. 

La Comissió exigeix a les plataformes que identifiquin, avaluïn i mitiguin possibles riscos relacionats amb l’ús de les eines d’intel·ligència artificial per a pràctiques il·legals, «incloent també imatges íntimes no consentides i material d’abús sexual infantil». I ha qualificat d’«inacceptable» el que ha passat amb Grok. 

Brussel·les investiga el cas

Notícies relacionades

Els cabals de rius i rieres s’estabilitzen però l’amenaça de desbordament continua activa

Les infermeres, «indignades» davant la interlocutòria que els impedeix prescriure fàrmacs contra les infeccions urinàries

Virkkunen ha dit que Brussel·les es pren seriosament la tasca i ha fet els primers passos sol·licitant informació a X sobre el funcionament de l’eina. L’Executiu comunitari ha informat la xarxa social que la funció que permet als usuaris despullar persones sense el seu consentiment «és inacceptable i s’ha d’eliminar urgentment». Això hauria portat l’empresa a limitar-ne l’ús. 

Virkkunen ha confirmat que, en qualsevol cas, la Comissió està ara examinant la informació rebuda i avaluarà si X ha violat la normativa europea que regula l’activitat de les empreses tecnològiques. «Necessitem assegurar-nos que aquestes investigacions condueixin a resultats concrets», ha insistit el socialista maltès Alex Agius. «Si les proves suggereixen que és el cas, no dubtarem a prendre mesures addicionals», ha dit la comissària.