La UE prohibirà les apps que generen nus amb intel·ligència artificial

A principis del 2024, la Unió Europea va treure pit a l’aprovar la primera llei sobre intel·ligència artificial del món. Dos anys i un cicle electoral després, Brussel·les ha arribat aquest dijous a un acord preliminar per "simplificar" una regulació al seu dia descrita com a "històrica" i les principals mesures del qual encara no havien entrat en vigor. El text consensuat entre els negociadors del Parlament Europeu i la presidència del Consell de la UE combina exempcions a les normes que afavoreixen sectors industrials estratègics amb noves proteccions.

El text consensuat entre els negociadors del Parlament Europeu i la presidència del Consell de la UE combina exempcions a les normes que afavoreixen principalment sectors industrials estratègics amb noves proteccions. La més notòria és la prohibició d’aquelles aplicacions que utilitzin IA per generar nus sintètics de les seves víctimes sense el seu consentiment, una esmena proposada per Espanya. Els deepfakes permeten generar recreacions hiperrealistes de persones, treure’ls la roba i posar-les en situacions sexuals que mai han existit, una capacitat que també obre la porta a la proliferació de material d’abús sexual infantil.

Termini fins al desembre

Notícies relacionades

La monarquia del Marroc reforça el paper de l’hereu

Escòcia aviva el pols independentista amb un altre referèndum a l’horitzó

El pacte estableix que la comercialització d’aquest tipus de sistemes quedarà completament vetada. Aquesta restricció podria afectar Grok, el model d’IA generativa propietat d’Elon Musk, que a principis d’any va protagonitzar un escàndol global al sexualitzar, en tan sols 11 dies, almenys tres milions d’imatges de persones reals, la majoria dones, tot i que també menors d’edat. Les empreses tindran fins al 2 de desembre del 2026 per adaptar els seus sistemes.

La simplificació legislativa, també coneguda com Omnibus, suposa un alleujament principalment per a la indústria digital, però també per a altres sectors afectats, ja que ajorna l’aplicació de tota mena d’obligacions establertes amb la intenció de protegir els ciutadans. Si l’acord provisional és aprovat formalment tant pel Parlament com pel Consell, tindran més marge per adaptar-se a la llei. La Comissió Europea ha celebrat l’acord preliminar per a unes "normes més senzilles i que afavoreixin la innovació", una iniciativa impulsada per la presidenta Ursula Von der Leyen amb la intenció de satisfer les demandes de les empreses i "impulsar la competitivitat d’Europa". No obstant, el portal Euractiv assenyala que hi hauria cert malestar en l’Executiu comunitari, ja que el pacte "suposa una nova càrrega de treball" per afegir nous requisits.