«Evolucionem (tant i) tan ràpid que no hi ha gens de control»

El despatx número 10 de l'Institut de Robòtica i Informàtica Industrial de Barcelona l'ocupa una optimista. Carme Torras ha dedicat la seva vida a estudiar la relació entre les màquines i el cervell humà, i el seu objectiu és que els programadors de robots també aprenguin ètica. A més, és una de les poques dones que escriuen novel·la de ciència-ficció. En resum, una eminència que té la discreció com a carta de presentació.

¿Sobrevalorem la intel·ligència? ¿Què és la intel·ligència? Normalment s'associa al coeficient intel·lectual, els famosos test I.Q.

¿I no ho és? Aquesta mena d'intel·ligència abstracta és important, però n'hi ha d'altres: emocional, afectiva, relacional...

¿Li han fet alguna vegada un test d'intel·ligència clàssic? A l'escola en feien, però no m'agrada gens que es facin diferències per intel·ligència. Quan a l'escola et posen l'etiqueta que ets molt intel·ligent et separen del grup, t'allunyen dels altres. A mi m'agrada fer les coses molt ben fetes, però mai m'ha agradat destacar. La gent em valora per la meva intel·ligència però penso que no és la meva capacitat més important.

¿I quina és? Crec que és la capacitat emocional, d'entusiasmar-se per les coses, de motivar. Quan selecciono gent per treballar amb mi és important que siguin acadèmicament bons, però sobretot busco que tinguin motivació, entusiasme, iniciativa i habilitat emocional.

Quan va entrar a la facultat de Matemàtiques de la Universitat de Barcelona Franco encara era viu. Era el curs 1973-74 i vam començar les classes al gener. Com que vam tenir sis mesos de vacances, els vaig aprofitar per fer un curs d'informàtica, i també em vaig matricular en Filosofia i Lletres. Sempre m'ha agradat aprendre i m'interessava molt com es forja el pensament, la intel·ligència, les emocions… el cervell, en definitiva.

El 1979 se'n va anar als Estats Units. Havia acabat Matemàtiques i vaig llegir Cerebros, máquinas y matemáticas, de Michel A. Arbib. Li vaig escriure per dir-li que m'encantaria estudiar el que explicava al seu llibre sobre com modelar el cervell amb computadores, i per sorpresa meva em va contestar i em va convidar a estudiar el màster de Brain Theory a la universitat de Massachusetts. Vaig demanar una beca Fulbright i vaig sortir corrent, literalment. Llavors estiuejava a Vic i no teníem telèfon; em va arribar un telegrama dient-me que m'esperaven a Massachusetts en tres dies.

¿A casa seva hi havia una predisposició a l'estudi? Hi ha tres persones que m'han marcat: el meu pare, que tenia idees avançades al seu temps i creia molt en la dona; un oncle amb qui passava les tardes del dissabte resolent divertimentos matemàtics, i la meva professora de Filosofia de batxillerat. Jo volia entendre el món i la filosofia em va obrir línies de pensament que desconeixia.

Vostè planteja que tecnologia i ètica haurien d'anar de la mà. M'interessa no tant quina ètica programem en els robots, sinó com formem les persones que programen els robots perquè prenguin les decisions adequades. MIT Press [l'editorial universitària afiliada a l'Institut Tecnològic de Massachusetts] traduirà a l'anglès la meva novel·la La mutació sentimental i m'han demanat que ho acompanyi amb uns materials pedagògics per utilitzar a l'assignatura d'ètica de la robòtica.

«L'espècie més evolucionada del planeta morirà d'un excés d'evolució», escriu a La mutació sentimental. ¿Ho creu possible? No ho veig impossible. És un risc, en el sentit que evolucionem tant i tan ràpid que no hi ha gens de control de cap on van les coses. No podem preveure el futur de la tecnologia, però almenys la ciència-ficció delinea escenaris possibles que ens permeten debatre cap on volem anar. A mi em van marcar llibres com Un món feliç, 1984, Fahrenheit 451, clàssics de la ciència-ficció que dibuixen un possible món futur.

Si no podem controlar l'avenç tecnològic, ¿per què no aturem almenys el més perjudicial? La curiositat humana és imparable, si alguna cosa es pot inventar s'acabarà fent. El que intento en el meu entorn és orientar la tecnologia cap on èticament sembla un bon camí, en comptes de deixar-la en mans d'interessos comercials. Actualment a l'Institut de Robòtica estem treballant en el projecte europeu I-Dress per programar robots que ajudin persones grans o discapacitades a vestir-se.

¿Substituirem el cuidador per robots? ¿I el contacte humà? La idea és alliberar el cuidador o el terapeuta de les tasques més rutinàries precisament perquè pugui dedicar-se més a la part afectiva. A mi no m'agraden els substituts afectius. Un dels principis bàsics en ètica és no enganyar les persones. Un robot humanoide pot enganyar la persona que cuida i aquesta pot arribar a creure que el robot realment es preocupa pel seu benestar (quan és mentida) i delegar-li totes les decisions. Els robots són eines i no s'han de fer més humanes del que és necessari. Aquesta és una de les primeres coses que s'haurien d'ensenyar als programadors.

A la seva novel·la la relació amb els robots acaba limitant les capacitats humanes. Si les màquines ho fan tot, pot ser que els humans involucionem i les nostres capacitats intel·lectuals, afectives i relacionals decreixin. Però jo crec en la saviesa i el sentit comú de l'ésser humà com a globalitat, i tinc l'esperança que prendrem decisions assenyades. Sóc optimista. De fet, la novel·la mostra el doble tall de la tecnologia, també el seu potencial per ampliar les nostres capacitats.

En teoria les noves tecnologies amplien les nostres capacitats, però al fer una recerca a Google ens torna resultats limitats a un patró de recerca previ. Google ens té modelats i a la llarga només ens arribaran les notícies que se suposa que ens interessen, de manera que el nostre univers s'anirà reduint. Alguns privilegiats buscaran noves fonts d'informació, però una majoria es quedarà amb aquest món fet a mida seva, petit, que no els farà créixer sinó involucionar. Crec que aquesta fractura digital augmentarà. Precisament estic treballant en una novel·la sobre la capacitat d'influència de les persones a les xarxes socials.

Si poguéssim establir un paral·lelisme entre les edats de la civilització humana i la dels robots, ¿en quina edat estarien ara? Crec que els robots ni tan sols han arribat al nivell de la nostra edat de pedra, perquè encara no han descobert la funcionalitat dels objectes, no saben que un os es pot fer servir com a martell o com a arma.

No semblen tan intel·ligents. Per ara les màquines no són gens intel·ligents. Al joc del go o dels escacs, la màquina és millor; en tots els entorns on hi hagi unes regles molt clares, ens guanya per golejada. ¿Però això és intel·ligència? Per a mi és càlcul. Són grans processadors de dades que poden fer models estadístics. Els robots funcionen per associació. És a dir, com que han vist moltes portes saben identificar una porta, però encara no saben com obrir-la, no hi ha coneixement. Crec que aquest serà el pròxim gran pas de la intel·ligència artificial. Després hi ha capacitats, com l'autoconsciència, que no veig que puguin desenvolupar ni el 2050.

Notícies relacionades

10 coses que cal saber de Sílvia Caballol, l’‘amor’ de l’(ex)bisbe de Solsona

Twitter, any I: la impulsiva revolució d’Elon Musk transforma la xarxa social i redueix el seu negoci

Estem envoltats d'algoritmes, una paraula que fins fa poc només s'usava en l'àmbit acadèmic. Fins i tot la victòria de Trump la va preveure un algoritme. ¿La vida podria expressar-se com un algoritme? [riu] Quina pregunta... Un algoritme és com una recepta de cuina. Té unes entrades ben definides (els ingredients), un procés (batre, pastar, fornejar) i uns resultats (el pastís). Però la vida no és un pastís, és una cosa molt complexa. ¿Com vols que la posem en un algoritme si ni tan sols sabem què és?

És curiós que l'única persona que investiga en robòtica i ètica en aquest país sigui una dona. Bé... no sóc l'única. Però és cert que, en aquest àmbit de la robòtica humanista o dels robots socials, les dones som majoria, cosa que contrasta amb l'escassa presència d'investigadores a la comunitat robòtica general.