Joan Navarro: «Tenim curiositat per saber fins on arriben»

¿Per què volem que els objectes siguin intel·ligents i cap a quin escenari anem?

Crec que volem que siguin intel·ligents per la curiositat de saber fins on pot arribar una màquina (tots hem preguntat al nostre smartphone quant és 0 dividit per 0) i per les comoditats que ens brinden. És molt pràctic que l’smartphone modifiqui el contrast de la pantalla en funció de la llum ambient o que el reproductor de música ens suggereixi nous temes per escoltar.

Els sistemes intel·ligents poden observar i classificar diferents paràmetres o situacions que han tingut lloc durant llargs períodes. És a partir d’aquest període d’observació (o aprenentatge) quan poden inferir patrons de comportament i prendre decisions. Per exemple, no seria estrany que si el nostre smartphone veu que cada dia desbloquegem el telèfon a les set del matí, ens acabi preguntant un dia si volem posar el despertador a aquesta hora.

¿Com ens protegim perquè les màquines no coartin les nostres decisions?

A pesar d’estar al principi de l’era dels sistemes intel·ligents, la influència que tenen ja és molt elevada: gairebé una de cada tres persones al món disposa de smartphone. És sorprenent que ja avui el primer que fem a l’obrir els ulls al matí sigui desbloquejar el mòbil per descarregar-nos el correu, revisar missatges i veure la predicció del temps. Potser aquests sistemes ens estan fent oblidar plaers com obrir la finestra i respirar aire fresc. I molt em temo que amb els últims avanços aquesta influència encara serà més gran. En aquest context, crec que el lliure albir queda a les mans dels programadors que han dissenyat el sistema. Sempre s’hauria de donar l’opció d’anar en contra del que la màquina suggereix i que aquesta acceptés contraordres que sobreescrivissin el que ha inferit durant el seu aprenentatge. Igual que els humans, els sistemes que aprenen de nosaltres no haurien d’acabar d’aprendre mai. 

¿Com reflecteixen les dades la complexitat humana? ¿Quin paper hi juguen les mocions?

 La complexitat i les emocions suposen un repte, però a partir de l’observació continuada de l’individu sí que es pot establir una idea aproximada del seu estat emocional: recentment s’han desenvolupat aplicacions que permeten a l’smartphone inferir, a partir de la cara que està mirant la pantalla, si està trist, sorprès o content.

Asimov va proposar lleis per a la robòtica. ¿Haurien d’existir per als objectes artificials?

És clar que necessitarem establir límits per evitar que la intel·ligència artificial tingui un impacte perniciós en la societat. A més a més dels problemes ètics i jurídics que comportarien escriure aquestes lleis, també hi ha importants limitacions tecnològiques que encara no s’han resolt. Per exemple, generalment no és possible saber a priori què inferirà un sistema intel·ligent amb una exactitud del 100%, ja que aquests utilitzen algoritmes basats en l’estadística i es podria donar una situació real que, o bé correspon al 0,0(...)01% de situacions que el sistema ha descartat durant el seu aprenentatge per no ser estadísticament significatives, o bé és totalment nova i no sap què fer.

¿En quina mesura les dades processades aprofundiran en la pèrdua de privacitat?

Notícies relacionades

El futur cyborg ja és aquí (o gairebé)

Anna Fusté: «¿Què passa si la màquina no pensa com nosaltres?»

És cert que perquè aquests sistemes funcionin es necessita un volum de dades considerable. Avui dia generem més dades de les que podem emmagatzemar (i processar). És per això que les dades per a l’aprenentatge d’aquests sistemes s’han de filtrar i reduir a allò que és important i, d’aquesta manera, poder construir models abstractes de coneixement solament interpretables pel mateix sistema. El fet que els nostres objectes intel·ligents del dia a dia, com els smartphones, tinguin prestacions tan reduïdes en comparació amb el que es necessitaria per poder treballar amb un volum ingent de dades, fa que tinguin una forta dependència en el núvol i internet, cosa que obre bretxes de seguretat en la privacitat.

No obstant, en una època en què les xarxes socials estan tan de moda i no tenim por de publicar tot el que fem, ¿ens hauria de preocupar que algú sabés que ens despertem a les set del matí?