Un dels creadors de la IA creu que podria arribar a controlar la humanitat

Un dels anomenats «padrins» de la intel·ligència artificial (IA), Geoffrey Hinton, va indicar en una recent conferència que els governs han d’intervenir i regular aquest espai per assegurar-se que les màquines no prenguin el control de la societat al tornar-se més intel·ligents que l’ésser humà. També va alertar sobre la desinformació que poden crear les notícies falses creades per IA, que podria aprofundir la desigualtat social.

El científic Geoffrey Hinton, un dels especialistes més respectats a nivell global en el camp de la intel·ligència artificial (IA), que actualment treballa a la Universitat de Toronto, va indicar recentment davant una nombrosa audiència a la conferència tecnològica Collision, realitzada a la mateixa ciutat canadenca, que existeix un risc real sobre un possible control de les societats humanes per part de la IA si el seu desenvolupament no es complementa amb el control necessari i sota certs límits.

Segons un article publicat a ‘Science Alert’ que reflecteix informació de l’Agència France-Presse, Geoffrey Hinton, considerat un dels «padrins» de la IA, va instar els governs a intervenir i assegurar-se que les màquines no prenguin el control de la societat. Al maig, Hinton va anunciar que deixava el seu lloc a Google després d’una dècada treballant-hi per poder parlar amb més llibertat sobre els perills de la intel·ligència artificial, poc després del llançament de ChatGPT.

Equilibri i control

En el marc de la conferència Collision, que va reunir més de 30.000 fundadors d’empreses emergents, inversors i treballadors del sector tecnològic, el científic va indicar que «en aquest moment hi ha 99 persones molt intel·ligents mirant de millorar la IA i només una persona també molt intel·ligent mirant de descobrir com evitar que la intel·ligència artificial es faci càrrec de la societat. Necessitem ser més equilibrats sobre aquest tema», va expressar davant una audiència que semblava més interessada a aprofitar les oportunitats que ofereix la IA que en la possibilitat d’establir-hi límits.

Durant la seva presentació, que pot veure’s en una publicació a Twitter, també va recordar que és vital «animar les persones que desenvolupen la IA a esforçar-se molt per comprendre com podria prendre el control de la nostra societat: és imprescindible fer-ho abans que es torni més intel·ligent que nosaltres», va afegir. 

"I think its important that people understand it's not just science fiction; it's not just fearmongering" - the Godfather of #AI, @geoffreyhinton, speaking about the risks of AI on Centre Stage at #CollisionConf pic.twitter.com/u3iM0LO4hP

— Collision Conf (@CollisionHQ) 28 de junio de 2023

La presentació de Hinton al Canadà.

Desigualtat social i desinformació

En el mateix sentit, Hinton va expressar la seva preocupació que la intel·ligència artificial podria produir aprofundir la desigualtat social que ja caracteritza les societats humanes a través de l’augment massiu de la productivitat de la seva implementació en benefici dels sectors més rics de la societat i no dels treballadors o els grups socials més postergats. «La riquesa que generi la IA no anirà a la gent que fa el treball. Farà que els rics siguin més rics i no beneficiarà gens els més pobres», va opinar.

Notícies relacionades

La sequera a l’Amazones deixa veure rostres humans antics i desconeguts

El telescopi Webb confirma que la taxa d’expansió de l’Univers continua sent una gran incògnita

A més, va advertir sobre el perill que suposen les «notícies falses» creades per bots de l’estil ChatGPT. Per controlar aquest aspecte negatiu de la IA, el científic creu que el contingut generat per intel·ligència artificial hauria de poder «marcar-se d’alguna manera quan és fals, similar al mètode que s’utilitza amb els diners en efectiu dels bancs centrals».

Per finalitzar, va destacar que és crucial que els riscos sobre la IA es prenguin amb la serietat que mereixen. «Totes les persones han d’entendre que això no és ciència-ficció ni alarmisme. Es tracta d’un risc real en el qual hem de pensar i entendre com enfrontar-lo a temps».