Carme Torras: «Hi ha una ètica per a l'era digital»

Carme Torras compagina la direcció d’un grup d’investigació en robòtica assistencial amb l’escriptura literària. Les seves novel·les, com ‘La mutació sentimental’, la seva versió anglesa ‘The vestigial Heart’, o ‘Enxarxats’ aborden els dilemes ètics que acompanyen els robots, la intel·ligència artificial o les xarxes socials. Llicenciada en Matemàtiques, doctora en Informàtica i professora d’investigació a l’Institut de Robòtica (CSIC-UPC), defensa una nova ètica per a l’era digital. És ambaixadora de Digital Future Society, iniciativa que treballa per construir un futur més just i inclusiu en l’era digital.

¿L’era digital pot tenir un «costat fosc»?

No hi ha cap dubte dels enormes beneficis que la robòtica, la intel·ligència artificial, el Big Data o el reconeixement facial poden aportar a la nostra vida. Treballem, per exemple, en robots assistencials que ajuden les persones grans amb mobilitat reduïda a vestir-se o menjar, o que estimulen pacients amb demència amb jocs i exercicis i avaluen la seva evolució cognitiva. Són solucions que contribueixen a millorar l’autonomia de les persones. Però també han de garantir uns principis ètics.

¿I com garantim robots ètics?

En el cas dels nostres robots, per exemple, la persona sempre ha de tenir el control sobre la màquina. En el cas del Big Data, hem de tenir en compte que els algoritmes ens ajuden a tractar enormes quantitats de dades, però també poden tenir un biaix discriminador per gènere o raça si no ho evitem.

¿La intel·ligència artificial pot tenir prejudicis?

Un programa informàtic, per exemple, avaluava el risc de reincidència dels presoners nord-americans, fins que es va demostrar que discriminava les persones de raça negra. Un altre cas sonat va ser el d’Apple Card, que va rebre acusacions de masclisme quan es va demostrar que l’algoritme que decidia els límits de crèdit atorgava quantitats fins a 20 vegades superiors a un home que a una dona amb la mateixa situació financera.

¿I com ho podem evitar?

Necessitem una ètica per a l’era digital. Requereix dues coses: regulació i formació. La primera està en mans dels governs i les institucions internacionals com la Comissió Europea, entre d’altres. La segona és imprescindible i necessària per a tothom. Hem de formar en tecnologia i ètica els polítics, la ciutadania, els joves, i, també, els enginyers i els professionals digitals que desenvolupen les innovacions tecnològiques.

¿Tothom hauria d’aprendre intel·ligència artificial?

El Govern finlandès ha decidit oferir a tots els ciutadans un curs ‘online’ gratuït d’intel·ligència artificial. El va crear un professor d’Hèlsinki. Ja l’han seguit més de 200.000 finlandesos i molt aviat serà traduït a tots els idiomes de la Unió Europea perquè el pugui conèixer tota la població. Aporta coneixements bàsics sobre com funciona i perquè serveix la intel·ligència artificial i és una bona eina per avançar cap a una era digital en què els principis ètics estiguin garantits.

¿Per què?

Bàsicament, perquè el coneixement ens converteix en ciutadans amb consciència crítica i exigents amb els nostres governants que han de regular i amb les empreses, que desenvolupen la tecnologia. La formació, el coneixement, acaben amb la por i la desconfiança, ens permeten tenir una opinió i, si és necessari, fer pressió sobre els nostres polítics o sobre el mercat per garantir que aquesta nova era sigui digital, però també sigui ètica.

Et pot interesar

¿Mira cap aquest futur digital amb optimisme?

Sí. Els riscos ètics i els possibles perills no poden amagar les immenses millores que ofereix la tecnologia. Vivim un moment apassionant amb grans possibilitats per dissenyar el paper que els humans i les màquines jugaran en el futur.