El Consell d’Europa aprova el primer tractat sobre IA

Aquest conveni obliga els estats que l’han signat a posar en marxa mesures per "identificar, avaluar, prevenir i atenuar possibles riscos" d’aquesta tecnologia, així com controlar-la per garantir que no s’utilitzi per "atacar les institucions i processos democràtics" i perquè "respectin la igualtat, incloent-hi la de gènere, impedeixin la discriminació i protegeixin la vida privada".

A partir del 5 de setembre, data establerta per a la firma d’aquest marc legal, els països signataris es podran acollir a les disposicions ja establertes o activar altres mesures equiparables.

Negociacions

El Consell d’Europa, que no pertany a la Unió Europea, està compost per 46 països del continent i compta amb sis estats més (els EUA, el Canadà, el Japó, Mèxic, Israel i el Vaticà) com a observadors. L’Argentina, Austràlia, Costa Rica, el Perú i l’Uruguai també han participat en les negociacions.

Tot i que s’ha forjat després de dos anys de debat intern, l’acord ha despertat el malestar tant d’experts en IA com de legisladors, que denuncien que aquestes obligacions per garantir els drets humans no són aplicables en casos de seguretat nacional. L’adopció de sistemes com ara el reconeixement facial en contextos policials o a les fronteres és altament problemàtica, ja que pot accelerar la discriminació de comunitats particularment vulnerables, com per exemple els migrants. La regulació de la IA de la UE també compta amb aquesta controvertida excepció.

Notícies relacionades

Domagoj Margetic, periodista d’investigació: «Antics soldats em van dir que hi va haver caçadors espanyols als safaris humans de Sarajevo»

Veronika, la nena ucraïnesa ‘reeducada’ a Rússia

El 18 d’abril, l’Assemblea Parlamentària del Consell d’Europa va emetre un comunicat en què denunciava que l’acord també exclou, en gran manera, el sector privat, responsable del desenvolupament dels sistemes d’IA. Aquest "enfocament diferenciat– van lamentar– crea una important llacuna". Els parlamentaris també van proposar incloure-hi una disposició específica sobre salut i medi ambient.

Dimecres, l’Alt Comissionat de les Nacions Unides per als Drets Humans, Volker Türk, va instar el Consell d’Europa a "reconsiderar" aquestes dues polèmiques exempcions. Per al periodista Luca Betuzzi, aquestes crítiques són un "clar senyal que la narrativa triomfalista (de les autoritats) no es correspon amb la realitat".