Una conversa amb el cap d’Amazon va portar els Estats Units a vetar la IA més avançada d’Anthropic

La inesperada ordre executiva dictada per Donald Trump es va impulsar després d’una conversa entre el director executiu d’Amazon,Andy Jassy, amb funcionaris de l’administració nord-americana, entre ells el secretari del Tresor Scott Bessent, segons avança ‘The Wall Street Journal’.

Fonts internes han explicat al diari econòmic que Jassy va advertir a les autoritats que investigadors d’Amazon havien aconseguit que el model Fable 5 se saltés les seves normes internes i els proporcionés informació per llançar atacs cibernètics. Inquietats per aquesta filtració, un grup de funcionaris de la Casa Blanca es va reunir per debatre com abordar-la mentre els seus investigadors en ciberseguretat verificaven el que va afirmar Amazon. La manera més directa per aturar el problema, van decidir, era imposar un veto global.

Segons les fonts consultades pel ‘WSJ’, l’administració Trump desconfia des de fa temps d’Anthropic per gestionar els riscos que plantegen els seus models d’IA més avançats. Aquesta opinió s’hauria vist reforçada després de parlar telefònicament amb el director executiu de la ‘start-up’, Dario Amodei.

Aliança entre Amazon i Anthropic

En els últims anys, Amazon ha invertit uns 8.000 milions de dòlars en Anthropic, companyia a la qual subministra xips per a centres de dades. A l’abril, el gegant del comerç electrònic va anunciar que invertia 5.000 milions més en la firma, amb la possibilitat d’afegir 20.000 milions més en els pròxims anys.

Amazon també utilitza la IA d’Anthropic per analitzar vulnerabilitats de seguretat i informar-ne les autoritats. «Com a proveïdor líder de serveis al núvol que atén un gran nombre de clients del sector públic i privat, no és estrany que els governs sol·licitin el nostre assessorament sobre possibles riscos de seguretat. Quan es produeixen, no compartim els detalls d’aquestes converses», ha informat un portaveu.

Pugna amb Trump

Notícies relacionades

La Generalitat invertirà 2,5 milions d’euros anuals a impulsar les empreses catalanes de tecnologies quàntiques

La creadora de ChatGPT saltarà als dispositius amb un altaveu amb IA integrada i «trets humans»

Anthropic assegura que les vulnerabilitats detectades per l’equip d’Amazon són bàsiques i que poden ser detectades per altres models d’IA disponibles. També ha defensat que compta amb les mesures de seguretat adequades i que és capaç de gestionar els seus sistemes. De fet, la ‘start-up’ va ser fundada el 2021 per Amodei i altres exdirectius d’OpenAI que consideraven que l’empresa responsable de ChatGPT estava més centrada a comercialitzar els seus productes que a prioritzar que fossin segurs.

El veto imposat divendres accelera la politització de la IA i el seu control per part de l’administració trumpista, que ja ha pres altres mesures en aquesta direcció com el decret que permet al Govern revisar els models abans que s’obrin al públic. La mesura també empitjora la ja tensa relació entre Trump i Anthropic, firma a la qual es va vetar dels sistemes federals després que es negués a acatar les ordres del Pentàgon per cedir la seva IA a usos com la vigilància massiva o la creació d’armes autònomes.