L’ús de tecnologies de reconeixement facial

La mateixa Proposta de Reglament europeu sobre intel•ligència artificial prohibeix explícitament determinats sistemes d’intel•ligència artificial, com per exemple els que tinguin per finalitat la vigilància indiscriminada generalitzada. 

A això cal afegir que la vigilància massiva que aquesta tecnologia (recollint, emmagatzemant i processant les nostres cares) afecta no només a la nostra privacitat, sinó també al nostre concepte d’identitat, a la nostra autonomia i a la nostra forma de participar en el propi sistema democràtic, ja que crea una situació en què estem constantment monitoritzats i identificats. 

Recentment s’ha donat a conèixer que s’utilitza la tecnologia de reconeixement facial de ClearView AI per detectar infiltrats en el conflicte armat d’Ucraïna. En general, la importància que les TIC tenen en la nostra societat té, lamentablement, el seu reflex no només en elements positius. Per exemple, els ciberatacs a infraestructures crítiques que van precedir el conflicte armat o els intents de control de l’opinió publica mitjançant les xarxes socials.

Aquesta empresa ofereix serveis de reconeixement facial, principalment d’identificació (a partir d’una imatge captada per una càmera indica la identitat d’aquella persona), donant accés a una enorme base de dades, amb més de 10 mil milions de fotos d’un nombre indeterminat de persones, obtingudes fent scraping a internet. Qualsevol imatge accessible públicament i associada a una persona concreta és susceptible de ser-hi inclosa. Aquest procediment es fa sense el consentiment i, ni tan sols, el coneixement dels afectats, que des d’aquest desconeixement no poden exercir els seus drets.

A la Unió Europea, disposem de normes que prohibeixen aquests tipus de tractaments. De fet, diverses autoritats europees han acabat sancionat aquestes activitats. La més recent la de l’autoritat italiana de protecció de dades que va imposar-li una sanció de 20 milions d’euros.

Notícies relacionades

Catalunya crida a un ús ètic de la intel·ligència artificial

Experts denuncien el pla del Govern per utilitzar càmeres de reconeixement facial a la frontera de Ceuta i Melilla

El cas d’Ucraïna mostra clarament com de difícil es preveure l’ús que se’n farà de la informació que publiquem a internet (en aquest cas, fotografies). Ha estat la guerra, lamentablement, que ens ha mostrat una altra aplicació del reconeixement facial. Pel gran impacte que aquesta tecnologia pot tenir, el Comitè Europeu de Protecció de Dades ja va demanar, juntament amb el Supervisor Europeu de Protecció de Dades, una prohibició general de qualsevol ús de la IA per al reconeixement automàtic de trets humans en espais d'accés públic, com ara rostres, però també, empremtes dactilars, ADN, veu, pulsacions de tecles i altres senyals biomètrics.

Per descomptat, tots els potencials riscos són difícils de preveure i, cal buscar un equilibri per utilitzar la tecnologia amb confiança, però, en tot cas, cal minimitzar aquests riscos al màxim sent curosos en la difusió que fem de la nostra informació personal. En definitiva, tot i la voluntat de les autoritats de protecció de dades de garantir al més alt nivell els drets de les persones, és imprescindible que cada individu sigui conscient dels riscos i actuï de maner proactiva per reduir-los al màxim.