Carrera per la IA
«És un perill imprudent»: més de 1.000 personalitats demanen parar la intel·ligència artificial més avançada
D’Elon Musk a Yuval Noah Harari, intel·lectuals, tecnòlegs i acadèmics firmen una carta oberta en què sol·liciten interrompre durant sis mesos l’entrenament de sistemes més potents a GPT-4
La intel·ligència artificial (IA) avança a un ritme frenètic. Des que l’accés a ChatGPT es va obrir al públic el novembre passat, el sector tecnològic ha accelerat la seva aposta pel llançament d’eines que doten les màquines amb una capacitat de resposta cada vegada més potent. Microsoft ha pres la davantera en una carrera empresarial «fora de control» que li pot reportar beneficis multimilionaris, però l’impacte social, econòmic i cultural que té comporta «profunds riscos per a la humanitat».
Aquest temor és el que ha fet que més de 1.000 personalitats firmin una carta oberta en la qual es demana als laboratoris d’IA «suspendre immediatament durant almenys 6 mesos» l’entrenament de sistemes més potent que GPT-4. Aquesta és l’última generació del model de llenguatge d’OpenAI, companyia creadora de ChatGPT, publicada el 14 de març i que Microsoft ja està integrant en els seus serveis, des del cercador Bing a programes com Word i Excel. «Aquesta pausa ha de ser pública i verificable [...] si no es pot fer ràpidament, els governs hi haurien d’intervenir i instituir una moratòria», expliquen.
La carta està firmada per 1.125 experts, tant de l’àmbit empresarial com especialment de l’acadèmic. De manera significativa, el primer signant és l’informàtic canadenc Yoshua Bengio, un dels pioners en l’avenç de l’aprenentatge profund, la tecnologia en què es basen sistemes com ChatGPT. Entre els signants destaquen noms com els d’Elon Musk, director general de Tesla, Twitter i SpaceX; Steve Wozniak, cofundador d’Apple; l’intel·lectual Yuval Noah Harari, i el polític Andrew Yang, candidat presidencial demòcrata dels Estats Units el 2020. També els acompanyen els cofundadors de plataformes com Skype, Pinterest i Ripple.
IA no confiable
Tot i que aquests són els noms més mediàtics, la major part dels signants són reputats acadèmics i investigadors en IA d’arreu del món. «Es tracta d’una tecnologia amb l’objectiu de crear text que sembli llenguatge humà, però té un problema de fons molt important que és que no pot garantir que el que diu és cert, no és confiable», explica Carles Sierra, director de l’Institut d’Investigació en Intel·ligència Artificial (IIIA) del Consell Superior d’Investigacions Científiques (CSIC), a EL PERIÓDICO en una trucada.
Aquesta poca fiabilitat fa que, segons Sierra, les conseqüències siguin impredictibles, però potencialment tan «perilloses» com el «m’agrada» de les xarxes socials. Aquesta és la raó per la qual es demanda una regulació que protegeixi els ciutadans davant l’estratègia «imprudent» de gegants tecnològics com Microsoft.
Entre els prestigiosos experts nacionals que firmen aquesta missiva hi ha Ramon López de Mántaras, director de l’IIA; Francesc Giralt, professor emèrit de la Universitat Rovira i Virgili, i Mateo Valero, director del Barcelona Supercomputing Center- Centre Nacional de Supercomputació.
Notícies relacionadesLa majoria de les 1.125 persones que han firmat la carta són experts de l’àmbit universitari i de centres d’investigació en IA. «Els acadèmics poden parlar més clar que les limitacions que hi ha dins de la indústria tecnològica», assegura Sierra. «El que fa més por és que les empreses estan obrint un meló de milers de milions de dòlars i ja sabem què passa quan hi ha diners pel mig».
Tot i així, aquesta carta també és vista amb recel per alguns experts. Emily M. Bender, professora de lingüística computacional a la Universitat de Washington, ha assenyalat que, malgrat que coincideix en algunes crítiques, la redacció d’aquest comunicat «ajuda» a exagerar les capacitats de l’IA, cosa que contribueix al bombo publicitari dels gegants com Microsoft o Google.
- Grans ciutats Un xinès que viu a Barcelona explica les diferències que veu amb Madrid: "Es respira un ambient trist..."
- Turisme El poble més bonic del món és a Catalunya, segons l'Organització Mundial del Turisme
- Espanyol-Osasuna (14.00 hores) L’acomiadament més cruel de Chen
- Mobilitat interurbana El pla més complicat de Rodalies
- Escacs El prodigiós adolescent indi
- Al minut Guerra d’Israel en directe: última hora sobre el final de la treva a Gaza, l’ajuda humanitària i reaccions
- Sorteig Extraordinari del Gordo ¿Quant toca per euro jugat en cada premi de la Loteria de Nadal el 2020?
- Illa contraposa un "finançament solidari" a la "deslleialtat fiscal"
- Els barons del PP qualifiquen de "pedaç" la condonació
- No és país per a pactes