El creador de ChatGPT demana regular la intel·ligència artificial: «Pot sortir molt malament»

La intel·ligència artificial (IA) necessita una regulació. El cofundador d’OpenAI, Sam Altman, ha comparegut aquest dimarts davant del Senat dels Estats Units per demanar als legisladors que estableixin una normativa que limiti l’ús de sistemes com la seva creació, el popular i controvertit ChatGPT. «La intervenció regulatòria dels governs serà fonamental per mitigar els riscos de models cada vegada més potents», ha explicat.

En el seu testimoni, Altman ha defensat els potencials usos beneficiosos de la seva eina, com accelerar la investigació sobre el canvi climàtic o la «cura del càncer». Tot i així, també ha alertat sobre els seus riscos: «La meva pitjor por és que aquesta tecnologia surti malament. I si surt malament, pot sortir molt malament». Aquesta advertència es refereix a l’impacte que ChatGPT pugui tenir per amplificar la desinformació. I és que, a més de replicar informacions incorrectes, aquest xat conversacional pot ser instrumentalitzat per accelerar campanyes d’influència orquestrades, segons els experts.

El cofundador d’OpenAI, empresa ara participada per Microsoft, ha comparegut davant les autoritats polítiques dels EUA en un ambient molt més relaxat que el que han encarat en el passat els líders de grans empreses tecnològiques com Facebook, Google, Twitter o, més recentment, TikTok.

Propostes de regulació

Altman ha proposat al Govern dels EUA establir un conjunt d’estàndards de seguretat en el desenvolupament de l’IA, així com crear una agència que atorgui llicències a les empreses del sector i que vetlli pel «compliment de les normes». El jove inversor també va recolzar la creació d’una organització internacional que posi normes, equiparant aquest cas amb el tractat de no proliferació de les armes nuclears.

Notícies relacionades

¿Acabarà prohibint-se ChatGPT?

La Unió Europea obligarà ChatGPT a revelar si viola els drets d’autor

Altres experts han apuntat en una direcció similar, assenyalant que un plafó intergovernamental de l’ONU podria estudiar aquesta tecnologia –de la mateixa manera que s’ha fet amb el canvi climàtic– perquè els països tinguin més evidència empírica en què basar les seves regulacions.

Tot i això, la posició d’Altman i OpenAI desperta recels, ja que d’una banda demanen regulació mentre que de l'altra acceleren el desplegament de les eines d’IA sobre les quals adverteixen. «Se suposa que el govern ha de ser un equilibri respecte a la indústria. Si la indústria redacta les lleis, llavors no hi ha equilibri», ha explicat a ‘The Washington Post’ la prestigiosa científica de computació Timnit Gebru.