¿Acabarà prohibint-se ChatGPT?

Espanya sol·licitarà un debat entre els reguladors de la Unió Europea perquè es trobin maneres de minimitzar els riscos d’uns generadors de textos i imatges l’ús de les quals s’expandeix a un ritme frenètic

El 21 d’abril del 2021, la Unió Europea (UE) va posar sobre la taula una mesura pionera per a la regulacióde la Intel·ligència Artificial (IA). Després de tres anys de consultes, Brussel·les va establir la categorització d’aquests sistemes segons el seu risc i la prohibició quan aquest sigui «inadmissible», com la vigilància massiva, el reconeixement facial o el crèdit social que utilitza la Xina. Tot i això, l’accelerada irrupció de models generatius com el popular ChatGPT ha torpedinat la proposta original, cosa que ha forçat els legisladors europeus a estudiar vies per posar la IA sota control.

En poc més de quatre mesos, aquesta tecnologia ha aconseguit expandir-se de manera vertiginosa a cada vegada més aspectes de la nostra vida, i s’ha colat a les escoles i a múltiples llocs de treball. La seva capacitat per simular converses humanes i per crear imatges fictícies que semblen cada vegada més reals n’ha fascinat molts, però també ha despertat temor entre els experts pel seu potencial impacte en aspectes com el mercat laboral, els biaixos i la desinformació. «El que s’ha fet amb ChatGPT recorda Tesla: treure els seus cotxes al mercat i corregir-los mentre la gent condueix. Per això tenen més accidents que els altres», explica Lorena Jaume-Palasí, experta en IA, filosofia del dret i ètica de la tecnologia.

La velocitat d’aquesta eclosió ha obligat la UE a alentir la tramitació de la llei per afegir nous mecanismes de control. El Parlament Europeu la votarà a finals d’abril, però si s’aprova podria trigar fins a dos anys a entrar en vigor. Tot i que no està clar quin aspecte final tindrà, els dos diputats que encapçalen la legislació han proposat categoritzar la IA generativa com d’«alt risc», exigint a les empreses requeriments de gestió del risc i de transparència més estrictes. Una investigació recent de l’oenagé Corporate Europe Observatory assenyala que Microsoft i Google –els gegants tecnològics que encapçalen la carrera empresarial per la IA– estan pressionant amb insistència a Brussel·les perquè no s’imposi aquesta etiqueta de risc als seus serveis. D’altra banda, el comissari europeu de Mercat Interior i Serveis, Thierry Breton, va assegurar el dilluns que tots els continguts que es generin amb IA «hauran d’estar marcats». «És un tema extremadament important», va apuntar.

«ChatGPT ha fet com Tesla: treure els seus cotxes al mercat i corregir-los mentre la gent condueix. Per això tenen més accidents que els altres»

Lorena Jaume-Palasí, experta en IA, filosofia del dret i ètica de la tecnologia

¿Prohibició a Europa?

Itàlia ha sigut el primer país del bloc europeu que ha optat per bloquejar l’accés dels seus ciutadans a ChatGPT. El 31 de març, l’agència italiana de protecció de dades va denunciar l’«absència de base jurídica que justifiqui la recollida i emmagatzematge massiu de dades personals a fi d’entrenar els seus algoritmes» i va donar 20 dies a OpenAI, creadora de l’aplicació, per demostrar que no vulnera el Reglament General de Protecció de Dades (GDPR) de la UE.

A Espanya, el tema també preocupa. Preguntada per EL PERIÓDICO, l’Agència Espanyola de Protecció de Dades (AEPD) ha confirmat que sol·licitarà la inclusió d’aquest debat en el pròxim Plenari del Comitè Europeu de Protecció de Dades –que se celebrarà a l’abril– perquè «es puguin posar en marxa accions harmonitzades» i «coordinades a nivell europeu».

En aquest aspecte, les opinions dels experts no coincideixen. «Prohibir és una opció una mica radical. Em preocupa perquè això reforça el paper d’Europa com a fre a una innovació que es produeix a fora», apunta l’analista Antonio Ortiz. «La regulació de l’aeronàutica fa que si cau un avió tothom ho investiga perquè no en caiguin més. No és un sector perfecte, però és millor que el que passa amb l’IA», opina Ariel Guersenzvaig, investigador en ètica tecnològica. «Ningú nega que sigui una cosa fascinant, però s’ha de frenar una mica».

Denúncies i pressió

Des del 2016, al món s’han passat 123 lleis que tracten sobre la IA; 37 de les quals es van aprovar el 2022, segons l’informe AI Index de la Universitat de Stanford. Tanmateix, fins ara els intents de regulació s’han centrat més en la IA convencional –aplicada a les cadenes de producció o en la salut– que en eines com ChatGPT o Midjourney.

Notícies relacionades

Calcular els riscos d’aquests sistemes és complicat, ja que tenen una gamma d’usos molt àmplia i part d’aquests poden ser beneficiosos per a la societat. Tot i així, també tenen efectes nocius, cosa que està impulsant noves demandes contra generadores de text i imatge que van des d’un alcalde que ha denunciat el mal reputacional causat per les mentides produïdes per aquests sistemes a artistes que denuncien una violació dels seus drets d’autor.

Aquest malestar està portant les autoritats a actuar. A Alemanya, el regulador estudia una restricció similar a la italiana, que el Govern federal rebutja. A França, l’ajuntament de Montpelier vol prohibir ChatGPT «per precaució». Al Regne Unit, l’Executiu ha demanat als reguladors establir normes. La Xina ha exigit a les empreses facilitar detalls dels seus algoritmes. Mentrestant, la falta de control als Estats Units ha encoratjat una cursa entre els seus gegants empresarials pel domini de la IA que els crítics qualifiquen d’«irresponsable». Tot i així, legisladors i organitzacions civils ja estan començant a fer sonar les alarmes.