L’ÈTICA DE L’ALGORITME

Rebels de Silicon Valley

Cada vegada més informàtics no se senten a gust treballant per als gegants tecnològics. Volen programar sense perjudicar la privacitat i la democràcia

Es llegeix en minuts

Amb 33 anys, el programador barceloní Elies Campo havia arribat al que altres somien tota una vida amb aconseguir. El 2013, el va fitxar una de les grans empreses de Silicon Valley: WhatsApp. Però un any després l’empresa va ser adquirida per Facebook. «M’encanta la missatgeria, però per mi és important treballar en una empresa que respecta els usuaris. Quan vaig veure com funcionava [Facebook] em vaig adonar del que passaria amb WhatsApp», afirma Campo, amb referència que actualment la xarxa social aprofita part de les dades del servei de missatgeria.

El 2014 va deixar WhatsApp (cobrant només una part de l’import de cancel·lació del contracte a causa de la venda, afirma) i l’any següent va començar a treballar a Telegram, que presumeix de no fer negoci amb les dades dels seus usuaris. «Segurament no podré tornar a treballar a Facebook, però hem de fer aquests passos», afirma.

Dilema creixent després de l’assalt al Capitoli

El dilema moral que exposa Campo no és una excepció. «Treballant en màrqueting, quan utilitzes dades topes amb temes qüestionables. Et preguntes si estàs fent les coses correctes», afirma P., un programador d’una empresa de Barcelona, que demana anonimat.

«Són qüestions de què parlem entre nosaltres», diu M., un informàtic que treballa a Barcelona per a una empresa de Silicon Valley i que tampoc no vol fer públic el seu nom. «¿[Les companyies] s’estan portant bé? ¿Vulneren la privacitat? ¿Tenen un impacte en la democràcia?», es pregunta, al cap de pocs dies de l’assalt al Capitoli, instigat en part a través de les xarxes socials.

«Si ets dins durant un temps, et trobes embolicat en assumptes que no hauries acceptat abans d’entrar-hi», afirma J., un desenvolupador de videojocs català, que també prefereix no revelar el seu nom.  

«Dins de les empreses hi ha molts desenvolupadors que empenyen per canviar les coses. Els directius ja no responen només als accionistes i els treballadors tenen les seves opinions», reflexiona E., una jove informàtica catalana que treballa per un dels gegants de Silicon Valley, que s’afegeix a la petició d’anonimat.

La majoria de les fonts consultades treballen en empreses privades que no els permeten expressar-se lliurement, o senten incomoditat al qüestionar obertament el treball d’altres programadors.

Un moviment global 

No obstant, n’hi ha prou de passar-se pels fòrums de programadors i xarxes socials per trobar-ne desenes que expliquen per què han deixat o rebutjat treballs en les millors companyies de computació.

Alguns casos són sonats. El 2020, l’exdirectiu d’Amazon Tim Bray va abandonar l’empresa en protesta per l’acomiadament d’un treballador que havia reclamat més compromís amb el canvi climàtic. El 2019, la investigadora en intel·ligència artificial Meredith Whittaker va abandonar Google, criticant el seu enorme poder.

Molts ‘treballadors del codi’ estan preocupats per la captació d’informació privada, la difusió de notícies falses i la manipulació del comportament d’algunes persones. Però també pel monopoli d’unes quantes companyies, la discriminació algorítmica (el disseny de programes a mida d’homes blancs i rics), l’empremta de carboni de la computació i el model de negoci de l’economia de plataforma. 

«L’ètica dels algoritmes està prenent cada vegada més importància», afirma Ricardo Baeza-Yates, investigador del Roux Institute for Experiential AI de la Northeastern University (a Silicon Valley) i professor de la Universitat Pompeu Fabra. Per exemple, s’han multiplicat els congressos acadèmics i l’activisme. La «humanització» de la tecnologia de la informació també forma part de la iniciativa Mobile World Capital de Barcelona.

Els físics, en la guerra freda

No obstant, a la pràctica no és fàcil donar l’esquena a una oferta de feina de Facebook o Amazon, per exemple. «A més de bons sous, pots treballar en tecnologies punteres, i després el teu currículum puja de categoria», afirma R., informàtic que treballa per a una empresa espanyola, que també vol mantenir-se en l’anonimat.

Diversos experts veuen certa analogia amb la situació dels físics nuclears durant la guerra freda. La ciència de les partícules també era impulsada, en part, per una finalitat aterridora: la cursa nuclear. Alhora, els físics investigaven temes fascinants i gaudien de prestigi i bons sous, igual que els experts en informàtica avui.

«Els físics tenien clar que els seus experiments eren coneixement pur. Si els sorgia algun escrúpol, era fàcil desacoblar el seu treball de qualsevol aplicació», explica Xavier Roqué, professor d’Història de la Ciència de la Universitat Autònoma de Barcelona. «Amb la mirada freda de l’historiador, es veu que no era així. Sovint la base teòrica i el desenvolupament pràctic van junts: en el projecte Manhattan [per a la construcció de la bomba atòmica] es va fer molta física», diu. De fet, el projecte Manhattan va tenir només un objector de consciència, Joseph Rotblat, que després va rebre el premi Nobel de la pau.

Els informàtics també tenen l’opció de rentar-se les mans. «Com a treballador, programes una part i no saps com s’utilitzarà. Pots sospitar que l’empresa farà coses poc ètiques amb el teu codi, però no depèn de tu, sinó dels caps. Pots dir-te: ‘Jo cobro i s’ha acabat’», afirma Josep Domingo-Ferrer, professor de Ciència de la Computació a la Universitat Rovira i Virgili, per exemplificar aquesta manera de pensar.

No obstant, aquest autoengany funciona pitjor amb la intel·ligència artificial. «En la física no hi havia tanta motivació econòmica. Al contrari, Google i Facebook tenen l’objectiu clar de fer diners. Això hauria de posar més en alerta», observa Roqué. «Del 'projecte Manhattan’ només se’n va anar un físic. En el món de la intel·ligència artificial, la dissidència és massiva», diu Carlos Castillo, investigador en ètica dels algoritmes a la Universitat Pompeu Fabra. 

«Els físics van necessitar la bomba atòmica per obrir els ulls. Esperem que als enginyers no els faci falta una cosa equivalent», afirma Gemma Galdón, directora de la consultora Éticas Research and Consulting i investigadora de la Universitat de Barcelona.

La indústria es mou

De fet, alguna cosa es mou dins de la indústria. «Als Estats Units, els informàtics tenen més poder de negociació. Hi ha moviments que demanen codis ètics i objecció de consciència», explica Galdón. A Google s’acaba de formar un sindicat i els seus empleats i els de Microsoft han aconseguit boicotejar contractes militars. 

«Algunes empreses estan en un moment de reflexió, arran d’escàndols que han protagonitzat. Han creat equips per fer algoritmes més equitatius. Això era impensable fa cinc anys», diu Castillo. Diversos experts lloen els esforços de Google.

No obstant, hi ha senyals contradictoris. El desembre del 2020, aquesta empresa va acomiadar la codirectora del seu equip d’ètica, Timnit Gebru, després que redactés un informe sobre biaixos en algoritmes lingüístics. «Això ens ha deixat confosos. Ella és una persona extremadament mesurada i gens estrident. Si la fan fora a ella, et fa pensar que llavors no pots parlar», comenta Castillo.

La dissidència és viable

Per a alguns programadors, l’ètica ja és un criteri imprescindible. «Jo no contractaria ningú que hagi treballat a Facebook després dels escàndols del 2015-16. La teva carrera explica els teus valors», afirma Elies Campo

«En el sector de la informàtica hi ha més demanda que oferta de perfils qualificats. Pots escollir en quina empresa vols treballar», diu Jordi Mas, una de les ànimes de l’associació Softcatalà. Un exemple d’això és Diego Sáez Trumper,, informàtic xilè establert a Barcelona i investigador en la Wikimedia Foundation, l’entitat que garanteix el funcionament de la Wikipedia.

Després d’haver investigat a la universitat, Sáez va optar per una informàtica basada en el ‘software’ lliure i sense lucre. «És una aventura, més que un negoci d’èxit. No competeixes en igualtat de condicions amb els que no tenen requisits ètics», lamenta.

La seva és una opció vital, a més de professional. «En la meva vida diària puc prescindir de qualsevol ‘software’ propietari. Tinc un mòbil on he instal·lat una versió lliure d’Android. No utilitzo WhatsApp i he convençut la meva família i els meus amics que utilitzin Signal. Tinc Linux a l’ordinador i esborro les galetes cada vegada que em connecto», explica. 

El sector ètic, minoritari

Sáez compara la seva elecció personal amb el fet de reciclar les escombraries: no és suficient per solucionar un problema global, però és necessari. «No m’agrada que utilitzin les meves dades per fer negoci i, a més, aconsegueixo sortir de la bombolla del filtre», assegura, amb referència al contingut d’internet personalitzat per algoritmes perquè encaixi amb les nostres preferències.

Et pot interesar

«El sector de la informàtica ètica és minoritari i ho serà durant molt temps. Però, ¿tenir èxit vol dir ser famós o bé fer coses interessants?», pregunta Baeza-Yates. Campo no té dubtes: «Es pot desenvolupar una carrera satisfactòria i d’alt nivell en empreses amb valors amb què et sents alineat», conclou.

Europa planta cara als gegants de la computació