Anna Fusté: «¿Què passa si la màquina no pensa com nosaltres?»

¿Per què volem que els objectes siguin intel·ligents i cap a quin escenari anem?

Avui en dia, els objectes intel·ligents actuen com a facilitadors de la nostra presa de decisions. D’acord amb la informació que reben, ens poden ajudar a escollir, si, per exemple, seria millor prendre una Coca-Cola o un plàtan. Els humans, al veure l’eficiència d’aquests sistemes, hem decidit programar-los perquè realitzin les accions per nosaltres.

¿Com ens protegim perquè les màquines no coartin les nostres decisions?

És aquí on es genera el gran conflicte: ¿què passa si l’humà i la màquina arriben a una conclusió diferent? Jo no vull un plàtan, em ve de gust una Coca-Cola, però la meva nevera intel·ligent, al veure que no quedaven ni plàtans ni Coca-coles, ha decidit demanar plàtans al súper amb el seu sistema on line, perquè ha calculat que això és el més sa per a mi. I jo, ara, no em puc prendre una Coca-Cola. ¡Quina decepció! Davant d’aquesta situació, que a més d’un li generaria un estrès innecessari, l’única solució és comprar una nevera millorada que sigui capaç d’emmagatzemar i processar les meves preferències.

Aquesta capacitat d’analitzar l’entorn i realitzar accions per nosaltres ens pot semblar un fet perillós. Hi haurà a qui tot això li recordarà Blade Runner o 2001: una odissea de l’espai. Tot i així, els sistemes intel·ligents són dissenyats per nosaltres, i hauríem de ser capaços de definir comportaments que s’adaptin a les nostres necessitats i no contradiguin les nostres prioritats en un moment donat. El disseny d’aquests sistemes es converteix en un procés crucial.

¿Com reflecteixen les dades la complexitat humana? ¿Quin paper hi juguen les mocions?

Els humans som temperamentals, impulsius i emocionals. Pot ser que l’existència de tots aquests objectes intel·ligents en el nostre entorn ens converteixi en éssers més passius i conformistes, però la nostra humanitat és difícil d’extirpar. No obstant, aquesta passivitat sí que ens hauria de preocupar, perquè és perjudicial per a nosaltres i encara més per a nens en ple aprenentatge. La comoditat de no haver de prendre decisions, la inactivitat de la nostra ment davant d’objectes que s’ocupen de pensar per nosaltres sona, en certa manera, aterridor. És essencial compensar-ho amb una vida activa i inculcar aquests valors a les noves generacions.

Asimov va proposar lleis per a la robòtica. ¿Haurien d’existir per als objectes artificials?

La complexitat que estan adquirint els sistemes intel·ligents ens fa pensar que necessitarem, en un futur pròxim, unes normes que ens permetin conviure-hi. Una cosa tan senzilla com que la voluntat de la persona sempre prevalgui. 

¿En quina mesura les dades processades aprofundiran en la pèrdua de privacitat?

Avui dia s’emmagatzema en el núvol una gran quantitat de dades amb una freqüència desorbitada. El 90% de les que hi ha a internet les hi hem introduït en els últims dos anys. El dilema arriba davant conjunts de dades tan extenses que impossibilita regular-les. Moltes les emmagatzemen grans multinacionals que operen en diferents països. Necessitem, doncs, una regulació global que abasti la gran extensió del big data i que avui sembla lluny de materialitzar-se. 

Notícies relacionades

El futur cyborg ja és aquí (o gairebé)

Joan Navarro: «Tenim curiositat per saber fins on arriben»

D’altra banda, el tractament d’aquestes dades ofereix noves possibilitats de negocis a les grans corporacions que espremen l’usuari al màxim i li extreuen informació. És un cercle viciós amb un buit legal que cal omplir amb una regulació que ens permeti protegir-nos de la circulació incontrolada de la nostra informació.

Això és important perquè aquest emmagatzematge i tractament de dades limita l’individu en les seves decisions. Google, Facebook, Apple, totes aquestes grans corporacions ens guien cap als seus productes en funció de les dades que els hem facilitat. Les firmes decideixen què puc triar i com en funció de la recopilació de les nostres dades. Per això és essencial definir unes normes que ens permetin protegir la nostra llibertat en un món en què el producte ha deixat de ser tangible i s’ha convertit en la nostra pròpia informació.