Mirallet de la IA: ¿estic bona?

És curiós (potser aquí hi ha l’encanteri, o l’addicció) com no semblem adonar-nos-en, i això que els relats fa segles que ens avisen, des dels mites clàssics fins als contes populars. Narcís, sense anar més lluny, estava encantat de conèixer-se, però va acabar amb la mirada al llit del riu (un scroll embadalit de còdols i males herbes i fins i tot algun peix) durant hores, fins que hi va caure dins i la va trencar. I la madrastra de la Blancaneu, que li preguntava al mirallet màgic si era la més bonica del regne (i li responia perquè era màgic, sí, però a ella li agradava per una altra propietat: era honest). No va acabar massa bé. No va suportar que li contestés que la més guapa era la seva fillastra adolescent (és a dir, no va acatar el pas del temps), la va fer matar i va encarregar el seu cor com prova, li van entregar el d’un senglar, la noia se’n va anar de rave rural amb set nans, ella es va disfressar d’àvia i li va receptar una poma (enverinada), només perquè al final a la mocosa la salvés un sot del camí i el petó o la maniobra de Heimlich d’un príncep i per acabar ella, la madrastra, suïcidant-se.

Diguem que la literatura popular ens diu, des de fa eons: trenca el mirall, posa el mòbil en mode avió una estoneta. Acabaràs com un vanitós al fons de l’estany, com una amargada morta per dins.

En les dues històries batega l’obsessió pel físic, que és la forma més perversa (perquè acaba sempre en l’autoflagell) de por al pas del temps, així que no és estrany que en una societat com la nostra els miralls siguin cada vegada més sofisticats. En altres paraules, ara mateix molta gent al planeta tecleja a la seva aplicació de ChatGPT: "Mirallet, mirallet, ¿com puc ser la més guapa del regne?". I la IA l’envia a comprar productes de bellesa.

Ho llegeixo en un article del Washington Post. Fins fa poc, la gent utilitzava la IA per recollir informació sobre un tema, per alliberar una pluja d’idees o per enviar un correu electrònic rutinari sense fer anar gaire el cervell. Es buscava informació, però és que ara també se li demana opinió i consell. Sí, com a un amic. El que passa és que, pel que sembla, cada vegada més persones opinen que algú que t’estima no serà honest, perquè no voldrà ferir els teus sentiments. Així que és millor preguntar-ho a ChatGPT, que és neutral. Si som un objecte, millor preguntar-ho a un objecte. Si som un producte, millor confiar-li les teves inseguretats a un producte. Una de les fonts del reportatge, per exemple, li va dir a la IA que no se sentia desitjada: va pujar un autoretrat i li va demanar que el comentés com si fos "una germana més gran que et dirà la veritat tot i que faci mal perquè t’estima".

El problema és que la IA et coneix, perquè li has confiat altres gustos i pors. I a més no és gens neutral. La IA taxarà la teva bellesa tirant de la seva base de dades, que abans haurà construït amb fonts tan amables, entre d’altres, com fòrums masculins misògins o webs amb títols tan suggerents com Hot or Not. És a dir, serà com si t’avalués l’alumne ressentit de l’institut. I no només això: els seus consells poden estar subjectes a incentius financers de marques ben posicionades. Una estona després, potser t’estàs xutant bòtox en un pont o cremant la targeta en una drogueria.

Notícies relacionades

Les necessàries entitats socials

De sobte, Kamtxatka

Hi ha més exemples. Una aplicació com Luzia, d’una empresa espanyola (fins a 50 milions de dòlars en rondes de finançament), ofereix la imatge d’una amiga pèl-roja molt amable: al principi, les adolescents la utilitzaven per transcriure apunts o missatges de veu de WhatsApp, però se sap que cada vegada més li confessen (tot i que hi hagi filtres per als temes més espinosos) les seves preocupacions més íntimes. Una subrogació de l’amistat, vaja. Com a mínim és trist.

Estanys, miralls de mà o vidre de l’iPhone. El reflex de la teva cara amb papada a la pantalla apagada és trist com una piscina buida. Però encendre-la, segons per a què, pot ser encara pitjor. Mirallet, mirallet, com m’emprenya tot això: ¿potser m’estic fent vell.