Europa activa una nova fase de la ‘llei IA’ amb més obligacions

La Unió Europea va fer ahir, 2 d’agost, un nou pas en l’aplicació del Reglament Europeu d’Intel·ligència Artificial (AI Act). Tot i que la norma va entrar en vigor l’agost del 2024, ahir va començar una nova fase marcada per l’aplicació de les obligacions de transparència per a determinats sistemes d’intel·ligència artificial, un canvi que afectarà tant les empreses com els ciutadans i que arriba acompanyat d’un missatge ben clar dels experts: hi ha moltes organitzacions que encara desconeixen amb exactitud quines eines d’IA utilitzen realment.

La Comissió Europea va publicar fa uns dies les guies oficials per ajudar empreses i administracions a complir aquestes obligacions, que busquen que els usuaris sàpiguen quan estan interactuant amb una intel·ligència artificial o quan un contingut ha sigut generat o manipulat mitjançant IA. Entre altres qüestions, els proveïdors hauran de dissenyar determinats sistemes per informar que l’usuari està parlant amb una IA, alhora que també es reforcen les exigències per identificar determinats deepfakes (vídeo, imatge o àudio manipulat mitjançant intel·ligència artificial) i altres continguts sintètics.

No obstant, el veritable desafiament per a les empreses espanyoles sembla que està lluny dels grans titulars sobre multes milionàries. Els especialistes consultats per EL PERIÓDICO coincideixen que el principal problema és molt més bàsic: conèixer, classificar i governar tota la intel·ligència artificial que ja utilitzen en l’activitat del dia a dia.

Giovanni Alessandrello, director general de la consultoria multinacional de negoci i tecnologia BIP Iberia, considera que moltes empreses han incorporat eines d’IA de manera espontània durant els últims anys, sense una estratègia global ni una supervisió clara. De fet, planteja una pregunta que, segons el seu parer, moltes organitzacions encara no poden respondre: "¿Sabem realment on estem utilitzant IA, amb quines dades, per a quines decisions i sota la responsabilitat de qui?".

Per Alessandrello, el canvi que comença aquest 2 d’agost és sobretot organitzatiu. Les companyies hauran d’elaborar inventaris dels sistemes que utilitzen, assignar responsabilitats, revisar proveïdors, reforçar la ciberseguretat i formar els empleats si volen escalar l’ús de la intel·ligència artificial amb garanties.

A més, adverteix d’un fenomen cada vegada més freqüent, l’anomenada IA a l’ombra, és a dir, empleats que recorren a eines públiques d’IA fora dels canals autoritzats per l’empresa. "Prohibir de forma generalitzada aquestes eines no n’elimina l’ús, sinó que sovint simplement el desplaça cap a una IA que l’empresa no veu i no pot controlar", assenyala.

Inventari i classificació

Aquesta necessitat de posar ordre també apareix en les respostes dels despatxos especialitzats. Per Guillermo Hidalgo, assessor jurídic del despatx d’advocats MAIO Legal i expert en dret digital, el risc més gros per a moltes empreses no està tant en les noves obligacions de transparència com a no haver començat encara a classificar els seus sistemes d’IA d’acord amb els nivells de risc previstos al reglament.

La seva recomanació és senzilla: "Fer un inventari" per identificar quins sistemes utilitza l’organització, qui els subministra, per a què serveixen i a qui afecten. Només a partir d’aquest mapa, sosté, és possible determinar quines obligacions corresponen a cada cas i preparar el compliment del nou marc europeu.

Una idea en la qual també coincideix Marina Villalonga, sòcia d’Asensi Abogados, que recorda que el Digital Omnibus ha ajornat part de les obligacions per als sistemes d’alt risc fins a finals del 2027, però en canvi no la feina prèvia d’anàlisi. "Si no pots explicar què fa el teu sistema d’IA, probablement és perquè estàs situat en zona de risc", apunta.

La principal novetat visible per al ciutadà arriba precisament amb les obligacions de transparència de l’article 50 de l’AI Act. A partir d’aquest 2 d’agost, la normativa europea exigeix que, en determinats supòsits, els usuaris siguin informats quan interactuen directament amb un sistema d’intel·ligència artificial. També es reforcen les obligacions relacionades amb determinats continguts generats o manipulats mitjançant IA i amb la identificació deepfakes, amb l’objectiu de reduir el risc d’engany i desinformació. La Comissió Europea afirma que aquestes mesures pretenen reforçar la confiança dels ciutadans i oferir una aplicació homogènia en tots els Estats membres.

Interlocució fiable

Villalonga considera que aquest és el canvi més perceptible per al consumidor. "A partir d’ara podrem exigir a les empreses saber quan parlem amb una màquina i quan ha sigut generat artificialment un contingut", explica.

L’AI Act preveu sancions que, en els casos més greus, poden arribar a 35 milions d’euros o al 7% de la facturació mundial anual de l’empresa, tot i que els experts creuen que aquest no serà el principal problema a curt termini.

Notícies relacionades

La CNMC demana suavitzar les exigències als nous centres de dades

El Banc d’Espanya eleva el creixement al 2,6% el 2026

Per Hidalgo, el risc més immediat serà reputacional i contractual, ja que clients, grans corporacions o administracions públiques començaran a exigir proves que les eines d’IA utilitzades compleixen la normativa. Villalonga afegeix que la pèrdua de contractes o l’obligació de retirar determinats sistemes del mercat es poden arribar a convertir en conseqüències fins i tot més rellevants que una eventual sanció.

Des de BIP Iberia, Alessandrello resumeix el desafiament amb una idea que, probablement, marcarà la pròxima etapa de la intel·ligència artificial en les empreses europees: "Complir té un cost, sí, però no governar la IA també en té un. I, en molts casos, pot ser molt més gros".