La IA amb què xateges està filtrant les teves converses, segons un estudi

Aquesta visió no inclou una realitat més preocupant: els assistents d’IA generativa amb els quals xateges estan filtrant les teves converses. Un recent estudi de l’IMDEA Networks Institute adverteix que productes cada vegada més populars com ChatGPT, Peplexity, Claude, d’Anthropic o Grok, de xAI, tenen «riscos estructurals», ja que integren rastrejadors de tercers com Meta o Google que «poden exposar els temes de conversa dels usuaris, les pàgines web visitades i fins i tot captures de pantalla» de l’activitat dels usuaris.

Els quatre assistents analitzats comparteixen amb tercers el títol que resumeix les converses dels usuaris. No obstant, aquesta falta de privacitat és particularment accentuada a Grok, de xAI. Segons la investigació, el xatbot propietat d’Elon Musk genera un enllaç per a cada conversa que permet a qualsevol usuari accedir a aquest contingut. A través de les cookies, la firma comparteix aquests links amb Google, Meta o TikTok, cosa que obre la porta que els tercers puguin utilitzar aquestes metadades confidencials per conèixer la identitat dels usuaris. La generació de captures de pantalla també es dona només a Grok.

«Això pot dir molt del que estàs fent, dels teus interessos, de la teva identitat», explica l’investigador Narseo Vallina Rodríguez en declaracions a EL PERIÓDICO en les quals recalca que es tracta de «mala praxi per part dels proveïdors d’IA». «¿És conscient la gent que els xatbots comparteixen detalls de les seves converses? Si ho fos, ¿els continuaria utilitzant?», es pregunta.

Els investigadors van reportar les seves troballes a les autoritats de protecció de dades abans de fer-les públiques. També van informar les companyies tecnològiques implicades per veure si així corregien aquestes pràctiques, però no han obtingut cap resposta.

Chatbots «insegurs»

A més, assenyalen que els mecanismes de control d’accés d’aquests grans models de llenguatge (LLMs, per les sigles en anglès) són «insegurs», ja que només cal un «simple enllaç» a una conversa per accedir al seu contingut. Això fa que tots els xats siguin, a la pràctica, «públics per a qualsevol (inclosos els rastrejadors) que tingui la URL».

L’estudi adverteix que, malgrat que aquests xatbots ofereixen controls de privacitat per limitar la visibilitat de les converses, aquests són «potencialment enganyosos», ja que «poden induir a error els usuaris al donar a entendre que ofereixen proteccions més sòlides de les que realment s’apliquen». Per acabar-ho d’adobar, els formularis de consentiment de cookies «presenten altres deficiències de transparènciai, en lloc d’informar els usuaris sobre com es comparteix la seva informació, parlen amb «eufemismes i generalitats».

«Incompliment flagrant» de la llei

El problema que els investigadors han detectat no és exclusiu dels assistents d’IA, sinó una extensió de les «dinàmiques econòmiques subjacents basades en dades» que donen forma a l’internet actual, en el qual gegants com Google, Meta o TikTok col·loquen els seus rastrejadors a la web per mesurar el comportament dels usuaris i vendre aquesta informació als anunciants que volen enviar-los publicitat.

Notícies relacionades

La Fundació Mobile World Capital Barcelona escull avui el seu nou director general

Unes ulleres per detectar-los a tots: Meta ja està afegint reconeixement facial a les seves ‘smart glasses’ amb Ray-Ban i Oakley

«És un incompliment flagrant» de les lleis europees, remarca Jorge Garcia Herrero, advocat expert en privacitat i protecció de dades que ha participat en l’estudi. «El més cridaner és com aquestes empreses t’empenyen amb una mà a adoptar la IA per a tot, mentre utilitzen l’altra per enviar tota aquesta informació personal a la indústria publicitària de tota la vida».

L’estudi ha detectat aquestes vulnerabilitats, si bé indica encara no disposa de proves que els rastrejadors llegeixin aquestes converses. Els seus autors indiquen que pròximament ampliaran la investigació per incloure altres serveis com Gemini, de Google; Copilot, de Microsoft; o Meta AI, de la propietària de Facebook i Instagram; empreses que operen alhora com a proveïdors d’IA i rastrejadors, una cosa que les converteix en «un model d’amenaça diferent».