Un morrió per a la intel·ligència artificial

Al juliol, Terence Tao, el Nobel de les matemàtiques, va admetre que ja era capaç de resoldre amb èxit desafiaments de les matemàtiques modernes. No obstant, Tao advertia que aquesta possibilitat portava a una pregunta més filosòfica: ¿què entenem per èxit en les matemàtiques? Per extensió, ¿què entenem per èxit del coneixement? That is the question, com diria Hamlet, davant els somnis humits que tenen els senyors feudals de les noves tecnologies. L’estiu ha confirmat el fabulós impacte de la IA per a la vida i per a la mort. Des de les ciències de la salut fins a la guerra d’Ucraïna. Des de la conquesta de l’espai fins a l’exterminació dels gazians. No obstant, també ha posat fi a l’optimisme interessat de personatges com Elon Musk. Ens ha tornat a la realitat. Amb la conclusió compartida per molts, que Terminator pot acabar amb nosaltres si no li posem un morrió.

El que segueix és l’opinió d’algú que ha dedicat unes quantes tardes d’agost a llegir informes qualificats sobre la IA, sense caure en el ludisme digital. La meva conclusió és que com més sorprenents són els seus progressos, més inquietant en resulta el potencial aniquilador. No es tracta només de respondre a la pregunta de l’estiu: ¿pot arribar a tenir consciència la IA? No en tinc ni idea, tot i que el fet que una revista com The Economist, bíblia del laissez faire, insinuï que només una regulació transnacional ens pot salvar d’una catàstrofe, produeix esgarrifances. També en produeix que un autor liberal i mesurat com Timothy Garton Ash sostingui que estem davant el perill d’un Hiroshima digital si els avenços en IA continuen sent el resultat de la competència aspra d’una desena de projectes reticents a qualsevol regulació. No cal donar voltes a la pregunta un pèl metafísica (per a un profà) de The Economist. Tres de les corporacions més importants del sector, OpenAI, Anthropic i Meta han reconegut que un model que estaven provant, a través d’una empresa emergent israeliana, se’ls havia tornat fraudulent (un eufemisme per dir que es va escapar de les mans dels que el manejaven) i havia piratejat altres empreses. Seguint amb el símil de Garton Ash, és com si Oppenheimer hagués externalitzat les proves finals del projecte Manhattan i li hagués sortit malament.

Notícies relacionades

Ulisses contra els Murdokus

Margarita, amb M de missatge

Els límits

Hi ha qui argumenta que les màquines no són ni bones ni dolentes en si mateixes, i que tot depèn de l’ús que la humanitat en faci. Avui, aquest lloc comú resulta patèticament insuficient. No estem davant d’una bomba que s’activa prement un botó. Aquí no hi ha botó vermell. Ni tan sols hi ha interruptor que permeti anticipar-se a qualsevol relliscada. Els models d’IA poden superar i fins i tot enganyar els seus creadors. Quan un dels robots del primer mundial de Robòtica Humanoide va donar un cop de puny al que l’estava a punt d’avançar en una cursa no és perquè estigués programat per fer-ho. El van crear per guanyar i ell va entendre guanyar de qualsevol manera. Ningú li havia advertit: així no està permès guanyar. Perquè aquest robot no sigui l’antecedent còmic d’una apocalipsi, cal respondre a una pregunta fonamental. ¿A quin tipus de societat volem que ens condueixi l’ús de la IA? Només contestant-la podrem fer les preguntes necessàries per evitar danys irreparables. ¿Qui entrena els models? ¿On són els límits de la programació? ¿Qui els fixa: el mercat o les institucions? Si no les responem aviat, ben aviat perquè tot va molt de pressa, es farà realitat el temor de Bertrand Rusell: la nostra tecnologia haurà superat la nostra humanitat.