¿Més IA, menys biaixos?

Fa uns mesos, la revista Nature publicava que la precisió mitjana dels models generatius analitzats des de l’any 2018 ronda el 52%. En conjunt, els models eren fiables només la meitat del temps. L’estudi comparava els seus resultats amb professionals sanitaris i concloïa que, si bé la IA pot millorar lleugerament la precisió dels que estan en formació, encara és per darrere del judici expert. L’experiència continua sent un grau. I, en molts casos, factors contextuals marquen la diferència: una imatge amb cicatrius, ombres o fins i tot una radiografia defectuosa pot confondre a l’algoritme, però no a professionals experimentats. Correm el risc de reduir la conversa a una competència tècnica, ignorant qüestions fonamentals com a qui està servint aquesta precisió. Les desigualtats en el diagnòstic del melanoma il·lustren aquesta tensió. Tot i que és més freqüent en persones blanques, la mortalitat per melanoma és significativament més gran en persones amb pell més fosca, en part perquè solen ser diagnosticades en etapes més avançades. Aquesta bretxa persisteix i s’amplia quan els algoritmes d’IA s’entrenen amb bases de dades dominades per imatges de pell clara, fet que redueix la seva capacitat d’identificar lesions en tons de pell més foscos. Així, un model pot ser tècnicament precís, però socialment fallit si ignora la diversitat real dels cossos que pretén cuidar.

Sistema més inclusiu

Notícies relacionades

D’Horta de Sant Joan a l’Empordà i Montserrat: els grans incendis que han castigat Catalunya les últimes dècades

¿Què és el peix escorpí present a les platges d’Espanya i què s’ha de fer si et pica?

Des d’una mirada sociològica, la revolució de la IA ens ofereix una oportunitat transformadora: utilitzar-la per construir un sistema sanitari més just i inclusiu. Ampliar els diagnòstics i tractaments significa oferir alternatives que tinguin en compte no només el gènere, l’edat o l’ètnia, sinó també les condicions socials que determinen la salut. De fet, estudis mostren que les persones sense accés al sistema sanitari o amb malalties rares o estigmatitzades recorren amb més freqüència a plataformes d’autodiagnòstic basades en IA. Precisament per això, té un gran potencial com a via d’accés per a poblacions excloses.

En lloc de replicar desigualtats ja existents, la IA pot convertir-se en el mirall invertit de la societat. Tecnològicament, és possible codificar aquest factor corrector que amplifiqui la justícia social de forma sistemàtica; només fa falta voluntat política, econòmica i investigadora a escala global. Un primer pas és garantir la participació activa de comunitats històricament marginades en el disseny, assajos i desplegament d’aquestes solucions. El camí de la medicina personalitzada sense prejudicis passa, precisament, per la intel·ligència artificial com a aliada per a la inclusió.