Experts denuncien l’aposta del Govern espanyol perquè Deloitte supervisi la regulació de la intel·ligència artificial

La creació de l’Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA) no avança a bon ritme. Experts i organitzacions en defensa dels drets civils han denunciat a EL PERIÓDICO la decisió del Govern espanyol de confiar en la consultora Deloitte i en l’associació sense ànim de lucre OdiseIA perquè supervisin la qualitat de la intel·ligència artificial (IA)a Espanya.

A finals del 2021, l’Executiu espanyol va anunciar la creació d’una agència dedicada a vigilar el desplegament d’aquesta tecnologia per minimitzar-ne els riscos, la primera d’aquest tipus a la Unió Europea (UE). La setmana passada, ‘El Mundo' va avançar que l’administració ultimava adjudicar a les dues entitats la creació del segell nacional que servirà per certificar un desenvolupament segur, ètic i de qualitat de la IA al país. La seva oferta ascendeix a 1,64 milions d’euros i és la més ben vista per Madrid, segons els documents de la licitació a què també ha pogut accedir aquest diari.

La Secretaria d’Estat de Digitalització i Intel·ligència Artificial (SEDIA), dependent del Ministeri d’Assumptes Econòmics i Transformació Digital, ha confirmat a aquest diari que ha utilitzat «un contracte de serveis» per externalitzar a Deloitte i OdiseIA l’encàrrec de fixar els criteris tècnics i desenvolupar les eines perquè les empreses espanyoles puguin obtenir un segell que «avalarà la qualitat dels algoritmes, sempre de manera voluntària». A més, i no és menor, les dues organitzacions assessoraran el Govern amb recomanacions sobre la configuració de l’AESIA –que estarà situada a la Corunya– i el seu equip supervisor.

Guineus vigilant el galliner

Diferents organitzacions civils han denunciat que l’administració hagi confiat en dues empreses externes per desenvolupar aquest organisme públic pioner. «Es parla molt d’una IA ètica, però s’acaba recorrent a les empreses que desenvolupen aquesta tecnologia perquè també n’implementin la regulació», afirma Judith Membrives i Llorens, tècnica d’incidència en digitalització a Lafede.cat.

Per a aquests col·lectius, l’elecció de Deloitte i OdiseIA és com posar guineus a vigilar el galliner. L’empresa d’auditoria, una de les més grans del món, té aliances amb proveïdores de serveis d’IA com Google, Oracle i SAP, segons indica la seva pròpia pàgina web. «En democràcia tots hauríem de poder auditar la IA i no que quedi en mans d’algú que cobra de la mateixa empresa a la qual audita. Aquesta manera d’enfocar la governança és molt perillosa per als drets humans», lamenta Simona Levi, fundadora d’Xnet.

D’altra banda, OdiseIA és una associació sense ànim de lucre que, assegura, «vetlla per l’ús responsable» d’aquesta tecnologia. Entre els seus socis, entre els quals també hi ha membres de la societat civil, figuren auditores com PwC o la mateixa Deloitte, però també grups com el consorci de la indústria espanyola IndesIA, format per gegants com Telefónica, Repsol, Navantia, Airbus o Microsoft (que ha invertit més d’11.000 milions de dòlars en OpenAI per integrar el popular ChatGPT als seus serveis). La seva presidenta, Idoia Salazar, remarca a EL PERIÓDICO que OdiseIA és «totalment independent» i que tot i que els seus socis realitzen aportacions econòmiques per garantir el manteniment de l’associació «no tenen cap tipus de repercussió ni en el comitè estratègic ni en cap altre tema».

Privatitzar serveis públics

Les organitzacions civils consultades denuncien el «menysteniment» del Govern i el que això pot suposar a efectes pràctics per a la societat. «Desconfiem que Deloitte i OdiseIA senten les bases de la regulació de la IA a Espanya, perquè això marcarà molt el que s’entén per impacte social, discriminació o transparència», apunta Javier Sánchez Monedero, investigador en IA a la Universitat de Còrdova i membre d’Algorace.. «Hi ha una falta de pluralitat clara: la majoria de veus venen del sector privat i no de moviments feministes o antiracistes que poden aportar altres visions per resoldre problemes de biaixos ja existents», afegeix Membrives.

Notícies relacionades

L’Hospitalet i BCN perden la batalla: no acolliran ni l’Agència Espacial ni la d’Intel·ligència Artificial

Amb propina o sense propina

L’adjudicació també ha despertat malestar entre empleats de l’Estat, que denuncien que es contracti una consultora per externalitzar un projecte que podria ser desenvolupat per experts interns. «Els funcionaris tecnològics de l’Administració General de l’Estat estem de funeral. Externalitzen el coneixement i ens assenyalen com a inútils», ha lamentat José Antonio García, subsecretari del Ministeri de Consum, a Twitter.

Per Levi, aquesta realitat apunta cap a un problema més gran. «Cada vegada hi ha menys funcionaris amb competències digitals, perquè no s’inverteix a actualitzar aquest perfil intern, sinó a privatitzar els serveis públics, un fracàs absolut. Llencem els diners fora i no permetem institucions que estiguin a l’altura. Que l’administració no tingui competències digitals és una lògica suïcida».