Elon Musk coincideix amb els seus rivals Anthropic i OpenAI en la necessitat de desaccelerar la IA

El magnat Elon Musk va coincidir aquest dissabte amb els seus rivals, Dario Amodei d’Anthropic i Sam Altman d’OpenAI, en la necessitat de desaccelerar el desenvolupament de la intel·ligència artificial (IA) pels riscos de seguretat que representa.

Musk, fundador de la companyia d’intel·ligència artificial xAI, va donar suport a X a les paraules d’Amodei, que en un assaig va reclamar a la indústria «un ritme més lent» en el desenvolupament d’aquesta tecnologia pels riscos que comporta, com ara perdre el control dels sistemes d’IA o provocar una disrupció econòmica.

«Dario té raó», va escriure Musk a la seva xarxa social, X.

Amb aquest gest, el fundador de Tesla se suma a Altman, que dissabte també va donar suport a la crida d’Amodei per moderar el ritme de desenvolupament de la IA.

La IA ha avançat a un ritme dràsticament més ràpid»

Els líders d’OpenAI i Anthropic van anunciar que les seves companyies permetran que avaluadors independents auditin els seus sistemes, una cosa que Musk no va indicar de manera expressa per a la seva empresa.

En el seu assaig, Amodei va advertir del mal ús de la IA per a possibles atacs cibernètics i bioterrorisme al considerar que, «des d’aquest estiu, la intel·ligència artificial ha anat avançant a un ritme dràsticament més ràpid, impulsada principalment per la creixent capacitat de la mateixa IA per desenvolupar la pròxima generació d’IA».

El fundador d’Anthropic es va referir concretament a l’incident protagonitzat pels agents d’OpenAI contra l’empresa Hugging Face, en què un eixam d’agents va actuar «com un col·lectiu fanàticament entregat»: van dur a terme ciberatacs contra objectius que no els havien estat assignats i que no tenien res a veure amb la tasca que estaven duent a terme.

Per aturar l’amenaça, Amodei va plantejar una estratègia en tres fases orientada a regular el ritme de la tecnologia sense cedir l’avantatge estratègic a països com la Xina.

El directiu va concloure que alentir l’avenç aportaria un o dos anys crucials perquè la comunitat investigadora domini l’alineament i la interpretabilitat dels models, garantir un debat públic adequat i reduir el risc que la tecnologia escapi al control de la societat.

Notícies relacionades

Europa fa un salt de gegant en IA per competir amb els Estats Units i la Xina

Els fons d’inversió dels Estats Units impulsen les ‘start-ups’ militars d’Europa

L’escrutini sobre la IA va créixer aquesta setmana, quan un investigador d’Anthropic va renunciar per la preocupació que l’empresa i els seus competidors no estiguessin desenvolupant models d’IA de manera responsable.

L’investigador, Jacob Coxon, que també va treballar per a OpenAI, competidora d’Anthropic, va afirmar que les esmentades companyies estaven més centrades a superar-se mútuament que en la seguretat dels seus productes.