El Govern dissenya ja la seu, estructura i plantilla de la futura agència pública d’algoritmes

La primera reunió que la Secretaria d’Estat de Digitalització i Intel·ligència Artificial i Més País van tenir per conjuminar el disseny de la futura Agència d’Avaluació d’Algoritmes va acabar francament bé. Per ser una trobada temptativa, va oferir grates conclusions a les dues parts. En la formació que lidera Íñigo Errejón va quedar clara l’aposta del Govern per fer realitat «tan aviat com sigui possible» el nou organisme, de caràcter públic. A l’Executiu van comprovar que les aportacions d’un dels seus aliats parlamentaris poden resultar-li molt útils.

Diverses parts del disseny estan clares, cosa que no és poc per a una entrevista inicial de treball. El maig del 2021 un reglament del Parlament i del Consell de la UE va dibuixar el territori dins del qual naixerà i viurà l’organisme, que serà una agència estatal (l’altra opció que hi havia a sobre de la taula era la de les fórmules d’una agència independent). Les seves funcions se supeditaran a una classificació dels riscos que ofereixin els algoritmes, el qual oscil·larà de l’alt al mitjà, i d’aquest al baix, dins de l’àmbit administratiu. Així mateix, tindrà capacitat sancionadora. I serà transparent tant en la designació del seu màxim responsable com en les regles de funcionament i la seva execució.

Tot això per posar límit als perills de discriminació que comporta l’ús d’algoritmes. Més País ho ha explicat. El mesurament de l’estat d’humor o de les tendències socials pot conduir a prioritzar ciutadans amb un determinat caire racial, ideològic, d’edat, de gènere, territorial...

El pasado viernes, @MasPais_Es registramos una enmienda a los Presupuestos Generales del Estado para pedir una Agencia Estatal de Auditoría de Algoritmos. Voy a intentar explicar en este hilo (laargo) el sentido de la propuesta: 👇🧵 pic.twitter.com/0rQAo8AVna

— Héctor Tejero - ✌️💚🌾 #HopePrevails (@htejero_) 8 de noviembre de 2021

Per tant, tal com recalquen fonts de la Secretaria d’Estat d’Intel·ligència Artificial, dependent del Ministeri d’Afers Econòmics, a EL PERIÓDICO DE ESPAÑA, diari que pertany a aquest mateix grup, Prensa Ibérica, l’esbós comença a agafar forma. El treball és embrionari, però almenys hi ha un dibuix. El Govern, a més, està pensant ja a quina seu instal·lar la nova entitat, quants diners necessitarà a part dels cinc milions consignats als Pressupostos, el nombre de treballadors, les competències, l’estructura i la figura jurídica. Tot això ha d’estar perfilat amb nitidesa abans de convertir l’esquema en un decret o en un projecte de llei, l’opció ara mateix cap on s’encamina el procés.

El que vol el Govern és evitar un termini que el porti a la precipitació, així que la creació de l’organisme no es farà realitat el 2022. Tot apunta que s’erigirà l’any que ve, si és possible abans que Pedro Sánchez assumeixi la presidència rotatòria de la Unió Europea, de periodicitat semestral. Li toca la segona meitat del 2023. «Seria un termini desitjable», assenyalen les fonts governamentals, tot i que prefereixen, no obstant, fugir de concrecions i metes.

La configuració i desenvolupament de l’entitat necessita el paraigua d’una llei, que és la que redactarà el Ministeri d’Afers Econòmics quan la fisonomia orgànica, i sobretot, el seu entramat competencial, estiguin delimitats. Tot i que tant el pas de la norma pel Congrés com la posada en marxa de l’agència es divisen a la llunyania, és important que certs conceptes estiguin tan clars.

Cinc milions als Pressupostos

Héctor Tejero és diputat de Més Madrid a l’Assemblea autonòmica i un dels càrrecs de Més País del cercle de màxima confiança d’Íñigo Errejón. Va ser un dels artífexs que l’organització enarborés la problemàtica de la salut mental, actualment un assumpte social, sanitari i política de primer nivell. També va estar darrere de l’aposta per la reactivació dels trens nocturns, missió per ara embarrancada. L’impuls a l’agència d’algoritmes integra la seva agenda de prioritats. Més País va aconseguir incloure als Pressupostos d’aquest any una partida de cinc milions per al disseny i entrada en funcionament de l’organisme.

Proponemos una Agencia Estatal de Algoritmos para regular su aplicación al trabajo, conocer si discriminan o saber cómo afectan las redes sociales a la salud mental: pic.twitter.com/0BLpoZdmFv

— Íñigo Errejón (@ierrejon) 3 de noviembre de 2021

En declaracions a aquest mitjà, explica que durant la reunió d’aquest dimarts passat van exposar a la Secretaria d’Estat un document sobre l’arquitectura de l’agència. Darrere de les seves línies hi ha un comitè d’experts que Més País consulta sovint per afavorir l’arribada a port de la idea; que qualli, vaja.

«El nostre model s’assembla al de les agències d’avaluació de medicaments. Ara es tracta d’estudiar la fórmula jurídica, bé una agència estatal o bé una autoritat independent. El més important, sigui quin sigui, és que tingui transparència, i per descomptat, independència», explica abans de posar èmfasi que el debat, actualment, consisteix a decidir la figura jurídica i a atribuir les competències. Entre aquestes, Més País ha proposat l’avaluació dels nivells de risc dels algoritmes, l’emissió d’auditories, la imposició de sancions, l’assessorament a pimes i la recepció de queixes del teixit associatiu o de particulars.

A la Secretaria d’Estat de Digitalització les seves fonts intenten no desmarcar-se de la prudència. Traçar una línia temporal de treball (amb la mirada posada, preferentment, al 2023), definir els recursos jurídics i humans, organitzar la logística i la infraestructura i enginyar un circuit de comunicació amb associacions civils especialitzades són algunes de les tasques en què s’ha implicat o s’implicarà ben aviat. Cal afegir-hi un treball eminentment comparatiu, que té a veure amb el que estan fent o preveuen fer països europeus. Espanya, apunten les fonts, vol ser pioner aquí.

El mirall europeu o les regles del joc

Com ha quedat escrit abans, el maig del 2021 la UE va publicar un reglament per afrontar el repte de gestionar la intel·ligència artificial sense que els drets dels ciutadans, així com els valors europeus, es vegin menyscabats. L’objectiu és l’harmonització legislativa entre els estats membres.

La intel·ligència artificial conviu amb els ciutadans; està present en les nostres vides gairebé constantment i els riscos són evidents. Hi comença a haver abundant bibliografia que demostra que els algoritmes en què es basen nombroses empreses, essencialment les tecnològiques, tot i que no només, poden incórrer en discriminacions. Mesurar els gustos socials, monetitzar-los després, comporta perills. La Unió, des del 2019, està treballant en la manera amb què domar les repercussions quotidianes de la intel·ligència artificial.

Així, en un compendi de conclusions, fa tres anys, va demanar una definició clara de quins usos de l’IA han de considerar-se «de risc». Un any més tard va instar a garantir el respecte als drets fonamentals, va advocar per normes harmonitzades i es va mostrar a favor de prohibir aquelles actuacions que soscavin els valors essencials europeus.

La UE va obrir un període de consultes i va rebre més de 1.200 contribucions, la majoria d’empreses i particulars. L’absència d’una base jurídica sòlida sobre la qual regular l’IA i la necessitat de delimitar-ne els riscos van ser les dues reclamacions més freqüents. Aquest ‘feedback’ va permetre a la Unió promoure entre els estats membres l’aplicació d’un instrument legislatiu basat en aquesta classificació de riscos.

Així, de risc alt seran actuacions que, en línies generals, puguin «manipular les persones mitjançant tècniques subliminars que transcendeixin la seva consciència o que aprofiten les vulnerabilitats de grups concrets» amb la finalitat d’«alterar de manera substancial el seu comportament», i en últim extrem, provocar «perjudicis físics o psicològics». Per exemple, la identificació biomètrica en temps real de persones físiques en espais públics (excepte si es tracta de buscar el culpable o sospitós d’un delicte); les pràctiques relacionades amb infraestructures com el subministrament d’aigua, gas, calefacció o electricitat; determinats processos de selecció de treballadors, o la gestió de trànsit migratori.

La UE y Estados Unidos trabajan para establecer normas comunes sobre inteligencia artificial antes de final de mes en el marco de la iniciativa conjunta denominada Consejo de Tecnología y Comercio pic.twitter.com/21SrHfQuwK

— Lucia Velasco (@jones_lucia) 20 de septiembre de 2021

Notícies relacionades

Koldo va mediar perquè el Port de Bilbao donés 5.000 euros de patrocini

El PP vol prohibir l’indult en delictes de terrorisme

Són àmbits que han de comptar amb un conjunt de normes, quant a ús i aplicació d’algoritmes, que si les empreses o les autoritats públiques infringeixen, comportarà sancions.

Però tot això ha d’agafar forma i cos en uns estatuts, i posteriorment, en un decret o en un projecte de llei. A això vol Més País portar el Govern. Les impressions, després de la primera reunió, resulten encoratjadores.