Debats en el Festival 42
IA, ¿el nou brivall de la ciència-ficció?
Els gèneres fantàstics es reivindiquen com a espai per a especular cap a on ens portarà la intel·ligència artificial. Tot i que la major part de vegades s’equivoquin
Els EUA, la Xina i la UE acorden cooperar per frenar els riscos «catastròfics» de la intel·ligència artificial
Todolí: «Que la tecnologia ens esclavitzi o alliberi de la feina depèn de nosaltres»
Ada Hoffmann: «A les tecnològiques els interessa exagerar dient que tinguem por de la IA»
Fa un any que el llançament promocional de ChatGPT va situar la intel·ligència artificial en l’elenc de genets de l’apocalipsi que poden acabar amb el món tal com el coneixem. En un lloc secundari respecte al canvi climàtic, però a l’altura d’altres sospitosos habituals com la caiguda d’un meteorit o una erupció solar que fregeixi tots els circuits de què depèn el nostre dia a dia. L’ombra de la IA apareix i reapareix sota diverses formes en la narrativa de ciència-ficció. I d’això s’ha parlat en algunes de les cites del Festival 42 de gèneres fantàstics que s’ha desenvolupat a Barcelona. Tot i que, entre la tecnofília i la tecnofòbia, sembla que en el gènere guanya el primer.
El concepte de la IA ha aparegut en la ciència-ficció sota diverses formes. «Una barreja absoluta en què es confonen robots, androides, cíborgs i intel·ligències artificials», apunta Manuel Moreno, professor de la UPC i autor d’assajos sobre la presència de la ciència en la ciència-ficció. I demostrant, afegeix l’escriptora Lola Robles, que la capacitat d’anticipació de la ficció és bastant fal·lible. En molts casos se l’ha dibuixat en forma d’amenaça per a la humanitat. El tòpic del perill de la rebel·lió de les màquines ha acompanyat el desenvolupament tecnològic de la humanitat. Amb les precaucions que cal prendre davant els robots (Asimov) o la seva persecució com a minoria oprimida (els replicants de ‘Blade Runner’), les intel·ligències artificials amb idees pròpies (HAL d’Arthur C. Clark), els superordinadors o les IA que van a la seva (‘Guia galàctica per a autoestopistes’, les cròniques de Murderbot de Martha Wells)... Potser pensem que les renovades pors després de ChatGPT (i que aquest fos un tema en discussió en la comunitat científica molt abans) estan convertint la IA en el nou brivall de la ciència-ficció, a l’estil de ‘Matrix’. Però no acaba de ser així. Sí que sembla que els tòpics d’IA individuals, que no fan més que replicar la ment d’un humà en un suport artificial (o copiar-la i transmetre-la, com a truc argumental per parlar en realitat sobre la longevitat), van passant a unes IA com a xarxa ubiqua, més abstracta... i reals.
Escepticisme
Alguna cosa de la IA com a neobrivall hi ha en la trilogia iniciada amb ‘L’extern’, d’Ada Hoffmann, amb unes IA que han vençut la humanitat i l’han convençut que les adorin com déus. Però també hi ha qui fa just el contrari, tot i que no ho sembli d’entrada, com en la recent pel·lícula ‘The Creator’, de John David Washington. Ann Leckie, multipremiada per la seva trilogia en la qual la IA d’una nau espacial va migrant de suport, és més escèptica. «ChatGPT no és IA, l’anomenen així tota l’estona, és una il·lusió però no ho és –recorda–. Escrivim com si fos una amenaça existencial per a la humanitat, la gent té por d’això, assumim que la IA ens substituirà a tots, que serem esclaus, que s’aixecarà i que ens matarà a tots. Però som en el món real. I l’important és reflexionar, tenint en compte que ens acostem a la IA artificial de veritat, de com ho tractem i de què som».
Ada Hoffmann té credencials extres per parlar del tema. A més d’abordar el tema en la ficció, ensenya ciències computacionals i es va doctorar amb una tesi sobre la possibilitat que les IA generin poesia. Ens tranquil·litza. En part. «Tot i que he escrit d’això en els meus llibres, realment no penso que sigui gaire probable que en el món real la intel·ligència artificial es converteixi en una superintel·ligència. Les empreses de tecnologia ens diuen que hem de tenir por i cura perquè la seva tecnologia es tornarà superintel·ligent... Però, si veiem com funciona, l’únic amb què té facilitat és en la replicació dels patrons que veu en les formes en què les paraules van juntes. No té el que anomenem ‘simple grounding’, la capacitat de connectar el que diuen les paraules amb l’experiència física o sensorial o entendre realment què signifiquen. Les tecnològiques estan exagerant deliberadament, demanant atenció, perquè això els dona més diners, les ajuda a atraure inversions de gent que es creu realment que amb aquesta tecnologia s’apoderaran del món. Però no és així».
Pedagogia
M. J. Bausà ha escrit la novel·la juvenil ‘El sueño de Mía’ (Destino), amb adolescents que es mouen directament dins d’una IA, juntament amb l’especialista en intel·ligències artificials Marta R. Costa-Jussà. En el seu cas té clar que «el brivall és l’humà» i aposta per l’educació (i en el cas del seu llibre, per la divulgació) com a antídot: «Qualsevol cosa que no entenguem i vegem com a màgia ho percebrem com un perill. La barreja de tecnologia avançada i ignorància és un perill». Amb tot, entén les pors (Arthur C. Clarke, recorda, ja parlava de com de depriment seria un futur en què els humans no fossin els més intel·ligents) i coincideix que davant una «tecnologia que pot ser utilitzada per servir o per esclavitzar» la ficció té com a repte aportar idees en el debat de «redefinir què som i què és la màquina».
Tannia R. Tamayo, Manuel Moreno, M. J. Bausà i Lola Robles, en el debat sobre ciència-ficció i IA en el Festival 42 /
Tannia R. Tamayo, química i economista, acaba de publicar ‘El peso del humo’, una novel·la en què la població d’un planeta en un futur i un temps llunyans deixa totes les seves preocupacions mundanes «en mans d’una compassiva i benèvola intel·ligència artificial, H; però això –precisa– té un preu». En el seu cas, ha tingut temps de considerar abans de la publicació del llibre l’impacte de ChatGPT, «l’espoleta que ha canviat el debat que fins aleshores es desenvolupava en cercles acadèmics». D’una banda, adverteix que aquesta eina és molt més eficaç del que se sol dir, tot i que encara estem en el nivell de les «IA febles, màquines que saben fer una cosa però res més, no l’apliquen a cap altre àmbit». Amb tot, adverteix que estem en un «moment d’enlairament» i que «l’adveniment d’una superintel·ligència no és impossible, potser d’aquí 10 anys, o 50». És a dir, que arribi el dia en què «l’algoritme aprengui a aplicar en un àmbit el que aprèn en un altre, assolir la línia base de la intel·ligència de la humanitat, superar el test de Turing». «En qüestió de poc temps, de pocs anys, arribarem a aquesta singularitat tecnològica en què els pessimistes veuen el final de la humanitat», afirma Moreno.
«Els de la ciència-ficció som els bons, és millor que proposem idees de què fer llavors, perquè els dolents ja estan en això», mig fa broma Tannia R. Tamayo. Què és en mans de qui és clau. I el professor de la UPC recorda que la IA és en mans de la iniciativa privada, que els governs no poden sostenir les inversions necessàries per investigar en aquesta intel·ligència i els experts en el tema migren de les universitats i centres de recerca públics al sector privat. Mentre això passa, sosté, la ciència-ficció té una funció: «És capaç de plantejar preguntes que la ciència no és capaç de respondre i donar alternatives, moltes de les quals mai seran realitat». Però algunes, sí.
Notícies relacionades¿Com està començant a replantejar la ciència-ficció la figura de la IA? «No crec que hi hagi una tendència singular –respon Hoffmann–. Està bé explorar moltes idees. En els pròxims anys el que espero és una ficció més compromesa per explicar com afecta els valors humans en el present i com això podrà extrapolar-se en el futur. Hi ha alguns problemes realment interessants en l’ètica de la IA tal com existeix avui dia: com absorbeix dades esbiaixades o què passarà amb les persones que tenen una feina que s’automatitzarà. Aquí hi haurà molta ficció en els pròxims anys».
Lola Robles se situa entre els tecnofílics. Recorda fins a quin punt poden ajudar alguns avenços a persones com ella, amb una important discapacitat visual. «Podem ser més optimistes. Crec que hem de recordar que les IA són creades i que en el fons tenen els mateixos sentiments i prejudicis que els seus creadors», afegeix en la seva xerrada amb Ann Leckie l’escriptora de ciència-ficció nord-americana Cat Rambo. Sí, però, bé, potser aquest és el problema.
Ja ets subscriptor o usuari registrat? Inicia sessió
Aquest contingut és especial per a la comunitat de lectors dEl Periódico.Per disfrutar daquests continguts gratis has de navegar registrat.
- Els interessos no ho són tot Aquesta és l’edat límit per demanar una hipoteca a Espanya: ¿Ho sabies?
- L’R3 pateix el tercer incendi a la catenària en un any
- AUDIÈNCIES Broncano bat Motos a Catalunya després del primer mes
- CRISI CLIMÀTICA Superar el llindar dels 1,5 ºC tindria efectes irreversibles
- Successos ¿Qui era la ‘dona de rosa’?
- Novetat discogràfica Un cant a l’amistat de Love of Lesbian
- CRÍTICA Los Planetas fan brillar ‘Super 8’ a Razzmatazz
- Venda controvertida Rendes antigues i veïns grans
- BALANÇ 1,6 milions de visites a la Copa Amèrica fins a principis d’octubre
- URBANISME BCN modificarà l’últim tram de la Mar Bella pels temporals