¿Com es pot distingir la veritat de la mentida en l’era de la intel·ligència artificial?

A part d’entretingudes disquisicions virtuals, l’eina es presenta capaç d’escriure saberuts assajos, sentits poemes i truculentes novel·les a partir d’un grapat d’indicacions que li donem. És qüestió de temps que aquest article periodístic que aviat rebrem a la nostra pantalla o aquest best-seller que veurem a l’aparador de la nostra llibreria favorita ens facin preguntar-nos si han sigut elaborats per una persona o per un programa informàtic, i si el que tots dos expliquen ha superat els convenients controls d’autenticitat o això també ha sigut cosa de l’algoritme.

Continguts artificials

ChatGPT es ve a sumar a la plèiade de solucions, totes basades en la IA, que en els últims mesos i anys s’han posat en circulació per crear continguts artificials d’àudio, imatge, i fins i tot obres d’art, a partir de sorprenents manipulacions de la realitat.

Les botigues d’aplicacions per al mòbil estan plenes de propostes per elaborar fotos i vídeos falsos basats en tecnologies de ‘deep fake’ i igualment és avui possible adulterar la veu humana perquè sembli que ha dit una cosa que mai ha dit.

L’escenari que anticipen totes aquestes eines és captivador i atresora un cert punt divertit i simpàtic. ¿Qui es resisteix a jugar a envellir el seu propi rostre per veure com serà d’aquí 20 anys –segons un programa de tractament d’imatge–, o a manipular la cara del seu cunyat per fer-li dir en un vídeo fals algun disbarat que mai ha dit?

Una de les campanyes publicitàries més impactants del 2021 va ser la d’una marca de cerveses que, utilitzant aquestes tecnologies, va aconseguir ressuscitar Lola Flores en un espot, i èxits similars s’han aconseguit en els últims mesos amb altres persones mortes. 

Però més enllà de la broma i la fascinació, la intel·ligència artificial generativa –així es denomina a l’ús de la IA per a la creació de continguts nous i originals– ens enfronta a escenaris inèdits i difusos en els quals cada vegada serà més difícil distingir la veritat de la mentida i separar el que és autèntic del que és fals.

S’anuncien pel·lícules protagonitzades per actors irreals amb rostres que han sigut creats per ordinador a partir de la suma algorítmica de milers de cares anònimes, i les firmes de seguretat han començat a alertar de l’ús fraudulent de veus d’usuaris de serveis bancaris per part de ciberdelinqüents per manipular-les i simular que han donat ordres que mai han dictat. 

Vídeo fals

Dues setmanes després del començament de la guerra d’Ucraïna, als mòbils de milers de ciutadans del país envaït va aparèixer un vídeo del president Volodímir Zelenski anunciant la rendició de les seves tropes i animant els soldats a deposar les armes.

Elaborat per hackers russos, el clip va trigar poques hores a ser assenyalat com a fals, però la maniobra dona la mesura del potencial que tenen aquestes eines per confondre la població, infinitament superior a l’experiment radiofònic de ‘La guerra dels mons’ d’Orson Welles. Nova paradoxa contemporània: la irrupció en les nostres vides de la intel·ligència artificial ens exposa com mai a la falsedat i l’engany. Vaja, que ens torna més tontos i manipulables.

A deepfake of Ukrainian President Volodymyr Zelensky calling on his soldiers to lay down their weapons was reportedly uploaded to a hacked Ukrainian news website today, per @Shayan86 pic.twitter.com/tXLrYECGY4

— Mikael Thalen (@MikaelThalen) 16 de marzo de 2022

Tot i que el camp de batalla és digital, el debat transcendeix el món tecnològic i s’endinsa en el camp de la filosofia, la sociologia i la psicologia, i obliga a reflexionar sobre com ens hem relacionat amb la veritat, la mentida i el dret a la informació al llarg de la història i com ens hi relacionarem en el futur. En un fet en què tots els analistes coincideixen és que el nou escenari ha arribat per quedar-se i que estem davant un dels grans reptes de les dècades venidores. 

«Això és el principi i no només no té marxa enrere, sinó que s’accelerarà en els pròxims anys», adverteix Silvia Leal, experta en tecnologia i tendències de futur, qui pronostica: «Si avui ens costa distingir un vídeo fals d’un altre de veritable, en el metavers serà encara més difícil, perquè allà no el veurem, sinó que l’experimentarem, i ens costarà molt més reconèixer que aquesta experiència estava basada en mentides». 

Com gladiadors romans enviats a la guerra de les galàxies, ens disposem a submergir-nos en el futur immediat –ja ho estem fent– en entorns cognitius per als quals no estem preparats. Acostumats a confiar en el que ens diuen els nostres ulls, ¿quin efecte tindrà viure envoltats d’impactes que podrien estar distorsionats, en ocasions amb intencions perverses?

«En l’àmbit psicològic és terrible, perquè condueix a la creació de falsos records. Després d’haver-nos empassat tres vídeos fake, instintivament preferim creure’ns un quart vídeo manipulat abans que reconèixer que ens han enganyat», respon Antoni Baena, coordinador del grup de psicologia digital del Col·legi de Psicologia de Catalunya. 

Ràpida digitalització

En aquesta predisposició a donar per bo tot el que ens arriba per les pantalles compta molt la relació tan íntima que avui mantenim amb aquesta finestra al món que portem a la butxaca dels pantalons. «La digitalització ha sigut tan ràpida i en tan poc temps que avui confiem més en les màquines que en nosaltres mateixos. Ara, per saber si està plovent, preguntem al mòbil en lloc de mirar per la finestra, i si no coincideixen, temptem la temptació de creure més la pantalla», assenyala el filòsof de la ciència Jordi Pigem, autor de l’assaig ‘Tècnica i totalitarisme’, en què analitza les «conseqüències deshumanitzadores» que ha tingut l’eclosió de l’era digital. 

El cert és que la mentida no va néixer el dia en què es va gravar el primer bit d’informació en un disc dur. «Convivim amb ficcions des que ens reuníem al voltant d’un foc a explicar-nos històries. Ara bé, al món digital s’han disparat les opcions per a l’engany, perquè la veritat i la falsedat competeixen al mateix nivell, ens arriben per la mateixa pantalla», explica l’escriptor Juan Jacinto Muñoz Rengel, autor d’‘Una historia de la mentira’, en què rastreja els llargs segles que fa que donem gat per llebre els uns als altres. Segons la seva opinió, mai va ser tan fàcil mentir com ara, «ni la mentida va ser tan perillosa com avui. Passa igual amb les armes. Fa 2.000 anys, amb una espasa podies matar un home. Avui tenim armes per carregar-nos el planeta», observa.

Fets alternatius

La dimensió social i política de la falsedat que circula per l’esfera digital, i que les noves aplicacions de la IA han vingut a perfeccionar, té una expressió que fa tot just una dècada ens hauria semblat inimaginable: els fets alternatius. El 2017, la consultora nord-americana de tecnologies de la informació Gartner va calcular que la meitat dels continguts que trobaríem a la xarxa el 2022 serien falsos.

«No sé si hem arribat ja a aquest nivell, però les ‘fake news’ no han parat d’augmentar en els últims anys fins a convertir-se en una autèntica religió. Sobretot després de la pandèmia. Avui hi ha milers de persones al món que necessiten creure les mentides que han vist a internet, i que han convertit en l’eix de les seves vides. Això és molt perillós», avisa el periodista Marc Amorós, autor de diversos assajos sobre el fenomen de les notícies falses.

Si demà se sabés que la meitat de l’oli que hi ha a les cuines espanyoles està adulterat, saltarien totes les alarmes. Ara bé, que bona part dels continguts que transvasem diàriament en format digital sigui fraudulent, sembla que causa menys espant. «Ens hauria de preocupar i moure’ns a exigir canvis, perquè igual que hi ha eines que faciliten la mentida, també n’hi ha per detectar els enganys. Les autoritats haurien d’obligar que s’apliquin, i és millor fer-ho avui que quan la intel·ligència artificial estigui més desenvolupada», assenyala Silvia Leal.

Segons l’opinió de Marc Amorós, les plataformes no es poden mantenir de perfil en aquest debat. «Han de responsabilitzar-se que tot el que viatja per les seves xarxes és veritable i no enganya els seus usuaris», reclama el periodista.

El novembre del 2022, l’Audiència de Barcelona va dictar la primera condemna que se sentencia a Espanya contra un tuitaire per difondre una ‘fake news’, en aquest cas un guàrdia civil que havia acusat falsament un grup de menors no acompanyats d’un centre de Canet de Mar de ser els agressors que apareixen en un vídeo gravat originàriament a la Xina.

La sentència marca un precedent important, però els experts en cultura digital reconeixen que és impossible anar darrere de totes les mentides que s’aboquen a la xarxa amb més o menys grau de sofisticació i creuen que seria més útil posar el focus en els receptors d’aquests continguts que en els seus creadors.

Alfabetització digital

Notícies relacionades

Una dessalinitzadora flotant al port de BCN evitarà portar vaixells amb aigua

Les últimes roses de Sant Jordi catalanes

«L’únic que es pot fer per lluitar contra les ‘fake news’ és millorar l’alfabetització digital de la població perquè aprengui a distingir la realitat de l’engany i es faci responsable quan cerca informació a la xarxa, acudint només a fonts fiables», apunta Amorós. Segons un estudi de la Universitat Carles III de Madrid, la meitat dels estudiants de secundària són incapaços de distingir una notícia falsa d’una d’inventada. «És urgent educar-los, i a tota la societat, perquè tinguin més esperit crític i no s’empassin el primer que els arriba al mòbil», recorda el psicòleg Antoni Baena.

L’alternativa és un món pres de l’engany i la desconfiança. «Aquest és el pitjor escenari, quan la gent pensa que tot és mentida, perquè ens anul·la com a societat. És tan dolent creure’ns-ho tot com dubtar de tot», adverteix Muñoz Rengel. «És el somni de qualsevol dictador del nostre passat. Al final, aquest debat no va sobre la veritat i la mentida digital, sinó sobre la llibertat i el totalitarisme», afegeix el pensador Jordi Pigem.