Un enginyer d’Anthropic dimiteix al creure que la IA «podria matar-nos a tots»: ¿Què hi ha de cert en la seva advertència?

Coxon, també extreballador d’OpenAI, ha lamentat que «cap de les dues companyies estan actuant de manera responsable» al protagonitzar –amb el permís de Google– la carrera pel desenvolupament d’una «superintel·ligència» que pugui ser capaç de millorar les seves capacitats de manera autònoma, sense intervenció exterior. «A OpenAI, molts no han interioritzat a fons el que està en joc a escala de civilització. A Anthropic sí que s’entén bé el que està en joc, però estan atrapats en una carrera per arribar-hi abans», ha assegurat. «Estan jugant amb les nostres vides».

Les paraules de l’investigador exposen una creença cada vegada més compartida a Silicon Valley, meca de la indústria tecnològica als Estats Units, que veu en la IA una amenaça a la supervivència de la raça humana. Aquesta fe s’està veient alimentada pels creixents problemes que la IA presenta en camps com la ciberseguretat. «Aviat seran sistemes sobrehumans capaços de piratejar qualsevol cosa, revolucionar qualsevol camp de la nit al dia i aconseguir poder i recursos reals», creu Coxon.

El seu excap, Evan Hubinger, ha ampliat aquest corrent de pensament amb un missatge en què li dona la raó. «¡De veritat creiem que la IA pot matar tothom! Jo personalment crec que la probabilitat és superior al 10% en la pròxima dècada», ha dit a X. Hubinger és responsable de recerca en alineació, disciplina que estudia com fer que els models facin només el que els usuaris demanen. Tot i així, ha matisat que el risc de models actuals com ChatGPT,Claude o Gemini «és baix».

Visió catastròfica de la IA

Tant OpenAI com Anthropic fa anys que coquetegen amb una narrativa catastrofista de la IA. Ja el 2015, Sam Altmanva qualificar la superintel·ligència com «probablement l’amenaça més gran per a la supervivència de la humanitat». Això respon, parcialment, a una estratègia per segrestar l’atenció i captar més inversions. Totes dues es preparen per llançar en els pròxims mesos les que podrien ser les sortides més grans a borsa de la història.

No obstant, molts també estan convençuts que s’arribarà a la IA general (AGI, per les sigles en anglès), la borrosa teoria que imagina una IA tan o més llesta que un ésser humà. «Hi ha moviments gairebé religiosos en què la gent creu que està construint una cosa semblant a un déu o un dimoni d’IA, i que serà el precursor de la pròxima era de la civilització», ha explicat la periodista Karen Hao en una entrevista amb EL PERIÓDICO. «La idea que la IA matarà tots els humans és una especulació sense cap base», va explicar Melanie Mitchell, catedràtica de Complexitat a l’Institut Santa Fe, a aquest diari.

La ideologia que marca la IA

Tant apocalíptics com utòpics alimenten així una mitologia que respon més a una creença que a una realitat empírica. La percepció de la IA com a risc existencial beu del llargterminisme, una actitud ètica que advoca per anteposar els hipotètics problemes d’una societat futura als actuals. A la pràctica, això suposa prioritzar les mesures que aborden una IA com Terminator a, per exemple, el canvi climàtic.

«Aquesta visió del món apel·la als més rics perquè els proporciona una excusa moral perfecta per ignorar problemes com la pobresa i els recompensa per centrar-se en un futur llunyà», valora Émile P. Torres, filòsof especialitzat en l’extinció humana. Per a la filòsofa Carissa Véliz, professora a la Universitat d’Oxford, la ideologia que més condiciona la frenètica carrera pel domini de la IA és «perillosa», ja que és molt efectiva donant un vernís d’acceptabilitat o de moralitat a accions que realment són jocs de poder.

Casos similars

Notícies relacionades

Chatbots descontrolats, por i moltes exageracions: ¿pot la IA realment rebel·lar-se contra els humans?

Europa fa un salt de gegant en IA per competir amb els Estats Units i la Xina

No és la primera vegada que un investigador exposa els gegants de la IA generativa. Durant el primer semestre del 2024, William Saunders,Daniel Kokotajlo i Jan Leike van renunciar als seus llocs després de considerar que l’aposta d’OpenAI per construir màquines més intel·ligents que els humans era «inherentment perillosa» i podia acabar «potencialment amb l’extinció humana».

No obstant, el cas més irònic és el protagonitzat per Dario Amodei, que a finals del 2020 va saltar del vaixell d’OpenAI amb sis empleats més presumptament preocupats per la falta de mesures de seguretat de la creadora de ChatGPT. Menys d’un mes després van fundar Anthropic, que s’ha presentat al món com una companyia més «ètica», si bé està repetint moltes de les actituds de la firma dirigida per Altman que va denunciar.