Lleó XIV demana, en la seva primera encíclica, posar fre al poder de les tecnoelits i crear un codi ètic global per a la IA

L’encíclica, publicada coincidint amb el 135è aniversari de la Rerum novarum de Lleó XIII, reprèn la mateixa estructura i aborda els nous «assumptes de rereguarda» que el món demana que l’Església interpreti. El Papa organitza el seu argument entorn de dues imatges bíbliques: la torre de Babel, símbol de la hybris tecnològica que redueix a l’ésser humà a dades, i la reconstrucció dels murs de Jerusalem per Nehemías (antic testament), símbol de la responsabilitat compartida des de baix.

Un dels seus diagnòstics més descarnats té a veure amb qui controla el poder tecnològic. Abans eren els estats; avui «els principals motors del desenvolupament són actors privats, sovint transnacionals, dotats de recursos superiors als de molts governs». El poder tecnològic ha adquirit així «un rostre predominantment privat, i per això encara més difícil de governar i i orientar cap al bé comú». Això fonamenta encara més la demanda de regulació i governança internacional, raona.

La línia vermella

Amb això, el primer Papa peruà-nord-americà reprèn la crítica al «paradigma tecnocràtic» que ja va formular Francesc i reclama un codi ètic compartit sobre la IA ancorat en criteris de justícia social. No serveix «una IA més moral si aquesta moral la decideixen uns quants», escriu. Els sistemes d’IA, adverteix, no són neutrals: «reflecteixen i reforcen estereotips o posicions ideològiques dels qui els han dissenyat i programat». I insisteix: «la propietat de les dades no es pot confiar només al sector privat»; han de gestionar-se com a «béns comuns o col·lectius».

És aquí on adopta el seu to més bel·ligerant davant les tecnoelits que a més promouen noves ideologies. Critica el transhumanisme i el posthumanisme: «L’ésser humà no floreix malgrat el límit, sinó sovint a través del límit», afirma. «El posthumanisme, sobretot en les seves versions més radicals, critica l’antropocentrisme i planteja una forma d’hibridació entre l’ésser humà, la màquina i l’ambient [...] aquestes hipòtesis van adquirint rellevància».  Però la humanitat «no ha de ser substituïda ni superada». 

Esclavitud digital

No obstant això, la intel·ligència artificial ja genera noves formes d’esclavitud: la dels «cossos marcats, mutilats i consumits» dels qui extreuen terres rares, sovint adolescents i infants en condicions perilloses, i la de milions de treballadors invisibles que etiqueten dades i moderen continguts, en la seva majoria dones que treballen dur a canvi de remuneracions mínimes. «No n’hi ha prou amb invocar l’eficiència ni amb lloar els beneficis de la innovació, si aquests es basen en una cadena d’explotació que es manté deliberadament oculta», assenyala. Les xarxes criminals, a més, utilitzen plataformes digitals per reclutar i controlar víctimes del tràfic de persones.

El colonialisme mostra avui aquest «rostre inèdit», que ja no domina només cossos, sinó que «s’apropia de les dades, transformant les vides personals en informació explotable». Fluxos sanitaris, mapes genètics i perfils demogràfics són «les noves terres rares del poder». Es poden utilitzar per entrenar models predictius, orientar estratègies d’inversió, anticipar crisis i, sobretot, seleccionar qui i què importa», diu el Papa. En cas de no revertir-se aquesta situació, «l’era digital no serà postcolonial, sinó colonial sota una altra forma». En aquest context, el Papa demana perdó en nom de l’Església per la seva complicitat històrica amb l’esclavitud: «En nom de l’Església demano sincerament perdó», escriu, per reforçar la urgència de combatre les seves formes actuals.

Notícies relacionades

Guerra de l’Iran, en directe: última hora | Nova negociació entre els EUA i l’Iran per aconseguir la pau

Els EUA i l’Iran ultimen un acord de pau, però Trump demana que no "corrin"

«La revolució digital està modificant la gramàtica dels conflictes», i s’hi suma «una preocupant pèrdua de memòria històrica» que facilita la reescriptura distorsionada del passat. Per a Lleó, no hi ha sortida tecnològica a això. «No existeix cap algoritme que pugui fer que la guerra sigui moralment acceptable». La IA només pot fer-la «més ràpida i impersonal, amb les víctimes reduïdes a dades». Defensa el multilateralisme i l’ONU, però reclama «reformes profundes» davant la seva actual debilitat. I en un passatge de ressonàncies inequívoques davant sectors pròxims a Trump o Putin, adverteix: «Qui utilitza el nom de Déu per legitimar el terrorisme, la violència o la guerra, traeix el rostre». 

La doctrina clàssica i els abusos

En una picada d’ullet als sectors més conservadors, el Papa així mateix reitera que l’avortament i l’eutanàsia són «decisions greument il·lícites» i, parlant també als qui estan fora de l’Església, demana que la jerarquia eclesiàstica depuri les seves estructures «d’opacitat i prevaricacions», amb referència als abusos del clergat. És important, recorda, escoltar les víctimes com a «part integrant d’un camí de justícia, que comprèn el reconeixement del mal, la reparació justa i la prevenció».