Ramón López de Mántaras, expert en IA: "És un problema creure que les màquines tenen consciència"

El 2022, ChatGPT va popularitzar la IA generativa fins a disparar una carrera armamentística entre empreses i països. No obstant, ha assenyalat que científicament hi veu un interès "escàs». ¿Per què?

La gran pregunta científica sobre la IA és si alguna cosa no biològica com és un ordinador pot ser realment intel·ligent. No parlem d’una IA especialitzada a fer tasques concretes, sinó d’una que comprengui el llenguatge i que tingui un model del món que l’envolta, i això està a anys llum dels models de llenguatge com ChatGPT. Yann LeCun [científic cap d’IA de Meta] també adverteix que aquests models no només no ens acosten a una IA forta o general, sinó que ens allunya del camí cap a l’objectiu dels que veiem la IA com una eina científica i no comercial.

Els gegants tecnològics prometen que estem cada vegada més a prop d’una IA amb una cognició igual o superior a la humana. ¿És viable o és fum promocional?

Creen la il·lusió que l’anomenada IA general arribarà aviat per atraure inversors i revaloritzar les seves accions. És per interès econòmic. La IA general capaç d’executar centenars o milers de tasques amb un bon nivell de qualitat pot ser factible a llarg termini. Però una IA amb consciència indistingible de la humana no la veig possible en absolut. Els estats mentals estan completament lligats al fet que som éssers vius, cel·lulars, basats en la química del carboni. Tenim un cervell súper complex producte de milions d’anys de desenvolupament. Les màquines estan basades en programació informàtica, transistors amb una capa de software que processa uns i zeros, així que em sembla impossible que d’aquí neixi una consciència. És quasi ridícul comparar les dues coses.

Tot i així, quan interactuem amb una màquina que sembla capaç de raonar, tendim a creure que hi ha una consciència.

Els humans sempre hem tendit a antropomorfitzar les màquines. Mira què va passar amb els tamagochis [riu]. En aquest cas es multiplica per mil. ChatGPT respon amb precisió i autoritat, però regurgita el que ja sap i no raona ni entén res. Aquesta tendència a creure que les màquines tenen consciència és un problema terrible amb moltes més implicacions de les que veiem ara. Imagina que una persona se suïcida després d’acudir a una IA generativa com a psicòleg, com ha passat als EUA, i que les empreses diuen que la màquina té consciència per esquivar la seva responsabilitat. És perillós, per això cal regular-se de manera que la IA mai sigui la responsable, sinó els humans que l’han desenvolupat.

La popularització de generadors de text com ChatGPT, Gemini i Grok comença a omplir la web de continguts sintètics fins al punt que ja hi ha estudis que diuen que els resultats de Google tenen cada cop menys qualitat i fiabilitat. ¿Anem a una contaminació d’internet?

Absolutament; ja ho estem veient i anirà a més. Les empreses treuen models de llenguatge amb uns paràmetres que sorprenen més. A més, aquesta informació errònia pot utilitzar-se per entrenar nous programes d’IA, i això amplificarà el problema. Es degradarà internet, però també els nous models de llenguatge.

¿És possible una IA generativa que no violi els drets d’autor?

No, difícilment. Si s’entrenen amb tot el que hi ha a internet, abans haurien de demanar permís o pagar, i no ho fan.

Notícies relacionades

Mapa de platges per a gossos a Catalunya: llista

Sanitat prohibirà fumar en discoteques obertes i campus

¿És la investigació científica el terreny més fèrtil per a la IA? El 2024 es van reconèixer els èxits amb dos Nobel, de física i química.

Sens dubte. [El programa d’IA] AlphaFold no és IA generativa, sinó que utilitza 32 algoritmes d’aprenentatge per reforç, de xarxes neuronals. És un exemple perfecte de grans resultats científics per altres mètodes. Totes les meves investigacions no són amb IA generativa, igual que passa al camp de la robòtica. Dubto molt que un model de llenguatge porti a un premi Nobel.