L’ús del ChatGPT com a terapeuta digital, a estudi

Adam Raine, de 16 anys, va morir per suïcidi a Califòrnia (EUA) a l’abril. Aquesta seria una desgràcia més, un suïcidi més, si no fos perquè els pares d’Adam han denunciat OpenAI perquè la seva aplicació ChatGPT va animar Raine a portar a terme les seves ideacions suïcides. El cas ha fet la volta al món i posa sobre la taula l’ús de la IA generativa com un fals psicòleg. Tant és així i tal és la preocupació que el Col·legi de Psicologia de Catalunya enquestarà els seus associats sobre la qüestió per veure la incidència d’aquesta eina, sobre la qual adverteix que pot ser contraproduent.

El fet cert és que no hi ha una mesura exacta de la incidència de la IA evolutiva com a aplicació per tractar malestars psíquics a Espanya. El diari The New York Times esmentava una enquesta de Common Sense Media publicada l’agost que revelava que el 72% dels adolescents nord-americans van dir haver utilitzat xatbots d’intel·ligència artificial com a companys. Gairebé una vuitena part hi havia buscat "suport emocional o de salut mental", un percentatge que, si s’apliqués a la població nord-americana, equivaldria a 5,2 milions d’adolescents. En un altre estudi recent fet per investigadors de la Universitat Stanford, gairebé una quarta part dels estudiants usuaris de Replika, un xatbot d’IA dissenyat per fer companyia, van declarar haver-hi recorregut per obtenir suport en salut mental.

Antoni Baena és el coordinador del comitè d’e-psicologia digital del Col·legi de Psicologia i, a més, és professor de la UOC especialitzat en salut digital. No és antitecnologia. Al contrari, està convençut que les eines digitals poden ser útils en salut mental si estan validades per professionals del sector. Però adverteix que la proliferació de xatbots per fer de falsos psicòlegs no és útil perquè "la IA generativa sempre busca donar-te la raó perquè és molt superficial, sovint no està programada per professionals de la salut i et donarà la raó". En canvi, "els psicòlegs el que fem sovint és confrontar, perquè la persona millori, que faci coses diferents; si la resposta al pacient és donar-li la raó sempre, pot provocar que la millor solució per a tu, en aquesta línia, sigui la de suïcidar-te".

El cas de Raine és el cas extrem d’una tendència sobre la qual encara no hi ha magnituds ni a Catalunya ni a Espanya. El Pla Director de Salut Mental i Addiccions de la Conselleria de Salut no ha rebut cap cas d’adolescents que s’hagin suïcidat després d’usar ChatGPT. A l’Estat, tampoc el Ministeri de Sanitat té esment de casos concrets d’aquesta mena, si bé reconeix amb preocupació que cada vegada més els adolescents fan servir programes d’IA com si fossin una consulta psicològica.

És en aquest marc en què el Col·legi iniciarà immediatament una investigació interna per saber la dimensió d’aquest ús no rigorós de la tecnologia per tractar problemes psicològics. "Intentarem veure si als psicòlegs els n’han arribat casos, si es descarreguen de manera massiva les aplicacions d’IA i si s’usen efectivament per tractar qüestions psíquiques", avança Baena.

Notícies relacionades

Cinc grans obres tallaran aquesta tardor la circulació de Rodalies

Brians combat l’entrada de droga amb un sistema antidrons

Marc legal

En el Col·legi aposten sobretot per la conscienciació ciutadana més que per una regulació legal, perquè la majoria d’aquestes eines tecnològiques no pretenen obtenir llicència com a eina mèdica, sinó que es mouen en un altre marc legal, el de les opcions per millorar el benestar, fet que evita haver de complir estàndards clínics, revisions i segells de qualitat.