Experiments amb IA per desinformar-te millor

Per primera vegada, el contingut generat per IA va tenir un pes rellevant en la desinformació detectada al juny per l’Observatori Europeu dels Mitjans Digitals (EDMO, en anglès). Aquest organisme va informar que la IA va arribar a representar el 10% del total de desinformacions verificades aquell mes per la trentena de mitjans de fact-checking europeus que formen part de la seva aliança, cosa que suposa un rècord des que van començar els registres el 2021. La majoria van circular en el marc del conflicte entre Israel i l’Iran, on la IA va ser la tècnica de desinformació més utilitzada pel bàndol iranià. Per exemple, un vídeo hiperrealista creat amb IA mostrava la suposada destrucció de l’aeroport Ben-Gurion a Tel-Aviv.

Tommaso Canetta, coordinador d’EDMO, explica a Verificat que, "fins fa uns mesos o un any, els vídeos generats amb IA eren molt dolents, però ara són cada vegada millors". En aquest sentit, la tecnologia per crear-los ha evolucionat, està molt estesa i és barata, i "qualsevol amb un telèfon i habilitats digitals bàsiques pot fer-ho", afegeix.

El que abans necessitava un set de gravació i fins i tot la contractació d’un presentador, ara es genera en uns quants minuts. Des de fa uns mesos, el canal de TikTok @fernandaperezof publica una allau de vídeos diaris en els quals una presentadora generada amb IA desinforma sobre detencions de ministres del Govern i casos de cap corrupció de la Casa Reial dels quals no hi ha prova. Verificat ha rebut consultes de diverses persones que dubtaven d’aquest contingut.

Notícies relacionades

Els últims espeternecs de la borrasca Emilia encenen avisos per pluja i tempestes al litoral mediterrani

Joan Roig dimiteix com a alcalde d’Alcanar a ‘Salvados’: «Ens ve una cosa molt greu, molt greu»

Imran Ahmed, director del britànic Centro per Contrarestar l’Odi Digital (CCDH, en anglès), creu que encara s’està en una "fase d’experimentació en què veiem actors maliciosos provar una gran varietat de coses, algunes de bastant bastes, altres de gairebé indetectables". Hi coincideix Sam Stockwell, investigador al Centre de Tecnologies Emergents i Seguretat (CETaS) de l’Institut Alan Turing, l’organisme del Regne Unit que es dedica a la investigació en IA: "Estem veient que actors estrangers estan experimentant per entendre com la IA pot potenciar la seva capacitat d’interferència".

Stockwell esmenta un estudi que va concloure que l’adopció d’eines d’IA generativa havia augmentat l’abast d’un lloc web propagandístic estatal rus. Després d’adoptar eines d’IA generativa, el mitjà va produir més continguts falsos en menys temps i també va cobrir una diversitat de temes més àmplia.