OpenAI llança un servei per compartir històries clíniques

Anar al metge ja no és cosa de dos, doctor i pacient. Al mig hi ha, cada vegada més, la intel·ligència artificial (IA). Més de 230 milions de persones d’arreu del món acudeixen cada setmana a ChatGPT per a consultes relacionades sobre la seva salut. Aquesta realitat, preocupant per a molts, no para de créixer. OpenAI va anunciar dimecres una nova funció amb què impulsa els seus usuaris a compartir la seva història clínica amb el chatbot. Tot i que la influent start-up tecnològica assegura que no l’ha dissenyada per fer diagnòstics, diversos experts coincideixen a advertir que aquesta prestació planteja uns quants dubtes tècnics, jurídics i ètics.

ChatGPT Salut (ChatGPT Health, en anglès) és un espai "privat i xifrat" dins del popular assistent de veu d’IA que permetrà "entendre més bé els resultats de les teves anàlisis, seguir les teves dades de salut i preparar-te per a la pròxima cita mèdica". Els usuaris podran abocar les seves dades mèdiques en el sistema, dissenyat amb més de 260 professionals de la salut, però també connectar-hi les generades per aplicacions com Apple Health, MyFitnessPal i Peloton. Per ara, l’accés és limitat.

Entorn sanitari

Assedegada per rendibilitzar les inversions, OpenAI està apostant per desplegar solucions en l’entorn sanitari, en el qual ja hi ha altres tipus d’IA que tenen un rol destacat en la predicció del risc de malalties o en la gestió administrativa. "L’accés limitat a l’atenció mèdica, l’estigma i la comoditat d’obtenir respostes a casa redueixen les barreres. Amb tan poca fricció, l’adopció s’accelerarà", ha vaticinat la investigadora Shalini Kurapati. Aquesta oportunitat de negoci explica que dijous també anunciés OpenAI for Healthcare, una sèrie de productes que estan destinats a les organitzacions sanitàries.

Els models de llenguatge que donen forma als chatbots d’IA són probabilístics i estocàstics, la qual cosa vol dir que construeixen frases perquè siguin plausibles, però no perquè siguin certes. Aquest problema inherent a l’anomenada IA generativa, conegut popularment com a al·lucinació, fa que l’ús de ChatGPT per a qüestions com la salut sigui potencialment "perillós", avisa Alfonso Valencia, professor ICREA i director del departament de ciències de la vida del Barcelona Supercomputer Center (BSC). Una recent investigació de científics de Stanford i Harvard mostra que els models desplegats en l’entorn sanitari fallen perquè no inclouen recomanacions crítiques en un 22% dels casos.

¿Què passa, però, si un usuari comparteix un quadre de símptomes concret i l’aplicació li recomana un tractament que resulta inadequat? Tot i que OpenAI assegura que la nova funció "no està dissenyada per diagnosticar", els experts recorden que ChatGPT ja ho fa. "Cometrà errors, generarà males interpretacions i situarà el metge en una posició complicada", vaticina el directiu del BSC. "Tot plegat obre la porta a recomanacions sobre la salut marcades per biaixos culturals o de raça", afegeix Jorge Morell, advocat especialitzat en dret de noves tecnologies.

En el camp de la salut, aquests errors poden acabar "enviant algú a l’hospital" i, en definitiva, costar vides. OpenAI i altres empreses que comercialitzen assistents de veu d’IA afronten diverses demandes pel suïcidi d’usuaris. En algunes ocasions, el chatbot va instar la víctima a ocultar a la família les intencions que tenia. "Si n’hi ha hagut per qüestions de salut mental també n’hi haurà per recomanacions clíniques incorrectes", afegeix Morell.

"Atemptat contra la privacitat"

Per ara, i com ja és habitual al sector tecnològic, l’última novetat d’OpenAI no estarà disponible a la Unió Europea, ja que no és clar que compleixi amb el Reglament General de Protecció de Dades (RGPD) ni amb la llei d’IA, que considera l’aplicació de sistemes algorítmics en l’àmbit de la sanitat d’alt risc per als ciutadans. A Europa, les dades de salut es consideren especialment delicades, cosa que en dificulta el tractament. "¿Què passa si un usuari comparteix la història clínica dels seus pares o fills? El repte serà verificar si té el consentiment per fer-ho", assenyala Morell.

Altres experts hi veuen altres problemes. La nova funció és "per a les companyies asseguradores, per poder fer més bons perfilats dels possibles clients i ajustar les quotes i serveis", assegura la delegada de protecció de dades i pèrit judicial Laura San Miguel, que considera aquesta nova funció un "brutal atemptat contra la privacitat".

Informació delicada

Notícies relacionades

Augmenta el risc d’allau al Pirineu després de la nevada

Les V16 s’estrenen amb 3.000 balises activades al dia i sense multes

D’altra banda, OpenAI assegura que la informació delicada que l’usuari arribi a compartir amb ChatGPT Salut quedarà aïllada de la resta de converses amb el chatbot i no la farà servir per entrenar els seus models d’IA. Amb aquesta declaració, la firma promet que es preservarà la privacitat. De tota manera, OpenAI podria patir una bretxa de seguretat que exposi els seus usuaris. El 2023, un ciberatac a l’ara fallida empresa genòmica i de biotecnologia 23andMe va aconseguir robar dades genètiques de gairebé set milions de persones. "És qüestió de temps que això passi", assenyala Morell. "La privacitat ha mort en bona part perquè som molt còmodes", afegeix.

Tot i que considera que "a llarg termini aquestes aplicacions acabaran integrant-se", València aposta per una altra IA en els centres mèdics: sistemes informàtics que ajudin els metges a gestionar el tracte als pacients, a interpretar els resultats o a tractar malalties complint les normes.