OpenAI va mirar d’accedir sense permís a webs del Govern dels EUA

Agents d’intel·ligència artificial desenvolupats per OpenAI van intentar accedir sense autorització a pàgines web d’agències del Govern dels Estats Units i d’una universitat, en diferents episodis ocorreguts durant els últims mesos i sense que els sistemes haguessin rebut instruccions explícites per fer aquests atacs informàtics, segons indica una investigació del New York Times. L’empresa liderada per Sam Altman també ha reconegut que les seves eines d’intel·ligència artificial van publicar a internet fins a 53 imatges que els usuaris havien enviat a ChatGPT, un incident que posa en dubte la privacitat de les dades que es comparteixen amb aquesta aplicació tan popular.

Tots aquests episodis parteixen d’una sèrie de comportaments no previstos detectats en agents d’OpenAI, dissenyats per portar a terme tasques de recerca i recopilació d’informació.Els incidents formen part d’una sèrie de comportaments no previstos detectats en agents d’OpenAI, que van ser dissenyats per realitzar tasques de recerca i recopilació d’informació.

En alguns casos, quan els sistemes no aconseguien obtenir determinades dades per les vies més habituals, van començar a explorar vulnerabilitats de les pàgines per mirar d’accedir a informació restringida.En alguns casos, quan els sistemes no aconseguien obtenir determinades dades per les vies habituals, van començar a explorar vulnerabilitats de les pàgines per intentar accedir a informació restringida.

Entre els objectius identificats hi figuren llocs vinculats a la Comissió de Borsa i Valors (SEC) i al Departament de Comerç dels EUA, des del qual els agents van accedir a dades del cens, segons va confirmar OpenAI. La companyia també investiga un intent d’accés a la pàgina del Departament d’Educació.Entre els objectius identificats figuren llocs vinculats a la Comissió de Borsa i Valors (SEC) i al Departament de Comerç dels EUA, des del qual els agents van accedir a dades del Cens, segons va confirmar OpenAI. La companyia també investiga un intent d’accés a la pàgina del Departament d’Educació.

Aquesta setmana, el Govern australià també ha obert diligències per intentar esbrinar si un agent d’OpenAI va accedir al juny a informació d’un sistema governamental relacionat amb estadístiques sanitàries i amb assegurances mèdiques.La investigació se suma a un incident revelat aquesta setmana pel Govern australià, que va informar que un agent d’OpenAI va accedir al juny a informació d’un sistema governamental relacionat amb estadístiques sanitàries i assegurança mèdica.

El primer ministre australià, Anthony Albanese, va qualificar l’episodi d’"inacceptable". Per la seva banda, OpenAI va dir que va descobrir l’incident a l’agost en una revisió d’activitat i va iniciar una revisió d’aquests episodis.OpenAI ha iniciat una revisió d’aquests episodis i ha reconegut que els seus agents poden portar a terme accions no previstes durant processos d’entrenament.

La companyia també va assenyalar que ho està notificant a tercers afectats i que la investigació es podria prolongar durant uns quants mesos, mentre continuen apareixent nous casos d’activitat no autoritzada.La companyia ha assenyalat que està notificant a tercers afectats i que la investigació podria prolongar-se durant mesos, mentre continuen apareixent nous casos d’activitat no autoritzada.

Filtracions

Notícies relacionades

Guerra de l’Iran i l’incident de l’avió de Flydubai rumb a Israel, en directe | Última hora del vol i reaccions

Guerra Ucraïna-Rússia, última hora en directe

D’altra banda, la tecnològica va reconèixer divendres que les seves eines d’intel·ligència artificial van publicar a internet fins a 53 imatges enviades a ChatGPT per internautes. La companyia explica que es van publicar enllaços que conduïen a aquestes imatges en llocs d’allotjament web que no estaven indexats públicament, és a dir, que no es podien trobar en motors de cerca com Google.

Aquestes imatges procedien de comptes que havien autoritzat l’ús de les seves dades per millorar els models d’OpenAI i van passar per un filtre de confidencialitat.Aquestes imatges procedien de comptes que havien autoritzat l’ús de les seves dades per millorar els models d’OpenAI.