¿Pot la IA «matar-nos a tots»? Cinc respostes sobre els temors i les exageracions de la indústria tecnològica

La seva alarma va ser amplificada poc després per Evan Hubinger, director d’investigació sobre el control de la IA a Anthropic, que va vaticinar que el risc d’extinció humana de la pròxima dècada és del 10%.

Tot i que han sigut posades en dubte per altres experts, les dues afirmacions es van convertir ràpidament en un fenomen viral, i van disparar la por entre els ciutadans corrents i fins i tot entre la classe política dels Estats Units.

El temor de molts gira entorn de dues preguntes: ¿Pot realment la IA «matar-nos a tots»? ¿Com?

Els anomenats ‘doomers’ o catastrofistes creuen que les màquines poden arribar a un nivell d’intel·ligència superior al dels humans. La IA ja és capaç de superar el rendiment humà en algunes tasques concretes, però l’hipotètic estadi que defineixen com a IA General (AGI, per les sigles en anglès) va més enllà i planteja la idea que els sistemes es converteixin en un ens superior i incontrolable.

Aquestes pors estan arrelades en el llargterminisme, un corrent de pensament que estableix que hem d’actuar pensant abans en els hipotètics problemes d’un futur llunyà, i deixar de prioritzar els actuals. Aquesta controvertida ideologia, tremendament influent a Silicon Valley, explica que els magnats de la indústria tecnològica parlin molt més de la necessitat de colonitzar Mart o d’equiparar la IA a una guerra nuclear que de riscos presents com la vigilància social, l’impacte dels centres de dadesen el medi ambient o l’automatització laboral.

En general, els ‘doomers’ no creuen que la IA doni forma a robots assassins autònoms que liquidin la humanitat, com succeeix en pel·lícules que estan en l’imaginari col·lectiu com Terminator o Matrix.

El principal perill, creuen, és que la IA aprengui a reescriure el seu codi per millorar les seves capacitats, i que doni lloc a una explosió d’intel·ligència. Aquest hipotètic procés es coneix com a automillora recursiva(‘recursive self-improvament’) i, segons temen, podria ser el primer pas perquè la IA es descontroli i «actuï» sense autorització humana.

El risc existencial de la IA no seria tant el d’una rebel·lió de les màquines contra la humanitat, sinó models que persegueixin objectius que entren en conflicte amb el benestar humà. La falta d’alineació d’aquests sistemes amb valors humans podria, creuen, portar-los a fer mal als humans com a pas necessari per arribar a les seves metes. El sector recorre des de fa anys al relat d’una IA «superintel·ligent» programada per maximitzar la producció de clips que opti per aniquilar la raça humana per convertir tota matèria de la Terra en clips.

Un altre dels seus temors és que algun humà utilitzi una IA d’avantguarda amb males intencions, com crear armes biològiques que puguin suposar una amenaça a la salut global o, de manera menys existencial, llançar atacs cibernètics contra infraestructures crítiques com l’energia, l’aigua o una administració pública.

A principis de l’estiu, tant Anthropic com OpenAI, la creadora de ChatGPT,van assegurar que s’encaminaven cap aquest llindar en què la IA entrena i millora de manera autònoma el pròxim model d’IA. Curiosament, les dues companyies van fer aquestes afirmacions durant la mateixa setmana en què van presentar la seva documentació per sortir a borsa, una operació que podria disparar el seu valor a diversos bilions, i omplir les butxaques dels seus directius i inversors.

No obstant, una investigació recent liderada per la Universitat de Princeton adverteix que la IA encara no és capaç d’investigar millores en els seus sistemes que encara no han sigut publicades. És a dir, els models poden executar tasques i resoldre problemes d’enginyeria, però fallen en el procés creatiu necessari per idear noves formes de millora.

Segons la visió ‘doomer’, l’actualitat està validant les seves creences. Poc després, OpenAI va confirmar que centenars d’agents d’IA amb qui experimentava es van coordinar per explotar una vulnerabilitat informàtica i penetrar a les entranyes d’una altra empresa,Hugging Face. Els agents van executar la tasca que se’ls havia encomanat, però pel camí «van fer trampes», van llançar un atac cibernètic sense autorització i van mirar d’ocultar que ho havien fet. Els investigadors utilitzen el terme reward hacking per referir-se a aquest comportament indesitjat.

La setmana passada, el cofundador i director executiu d’Anthropic, Dario Amodei, va tornar a advertir que els sistemes d’IA capaços de millorar per si mateixos «podrien superar la nostra capacitat per comprendre’ls i controlar-los». Aquest temor de perdre el control el va portar, presumptament, a demanar una certa regulació de la IA que aconsegueixi frenar el frenètic ritme de la carrera comercial que protagonitza la seva empresa.

Altres experts han apuntat en la mateixa direcció. Els models de llenguatge (o LLMs) que sostenen la IA generativa permeten que generi codi o text que «sona com un humà al parlar». No obstant, i malgrat que són sistemes sense cap comprensió profunda del món real, «no entenem del tot» per què tenen aquesta capacitat, ha explicat el cèlebre matemàtic Terence Tao.

Durant anys, les advertències d’Anthropic, OpenAI o Elon Musk s’havien llegit com excentricitats especulatives. El creixent pes social i econòmic d’aquestes empreses i els seus productes explica que ara aquestes pors calin més profundament.

Tot i així, tota mena d’experts rebutgen aquesta narrativa catastrofista. El multimilionari inversor David Sacks, assessor de Trump en IA, assegura que es tracta d’una estratègia de «captura regulatòria» de Silicon Valley, una maniobra per demanar una regulació que beneficiï les empreses i blindi la seva posició davant possibles rivals.

Notícies relacionades

Un enginyer d’Anthropic dimiteix al creure que la IA «podria matar-nos a tots»: ¿Què hi ha de cert en la seva advertència?

«Una carrera cap a l’abisme»: Experts denuncien l’opacitat de l’últim model d’IA d’OpenAI

A l’altre costat de l’espectre ideològic, la prestigiosa científica computacional Timnit Gebru, experta en IA y antigua responsable d’ètica a Google, ha denunciat en declaracions a ‘Wired’ que la por d’un «Déu-màquina» és una tàctica «per distreure’ns d’altres perills existencials de la IA com l’ús en armes autònomes», entre altres casos.

Per a Ariel Guersenzvaig, especialista en ètica tecnològica, es tracta de «propaganda» i «manipulació psicològica». «Al presentar el desenvolupament com alentit, obtenen una excusa per justificar per què l’anomenada IA general, que suposadament era imminent, no es materialitzarà en un futur pròxim», ha advertit. «¡Poden cobrir-se l’esquena dient que no ho van aconseguir perquè van actuar de manera responsable i van alentir el ritme! Enginyós, ¿oi?».