Manifest publicat a ‘Science’
Els experts demanen la creació d’una xarxa de «hackers ètics»
Científics reclamen una «auditoria global» per estudiar els potencials danys de la intel·ligència artificial
Els experts suggereixen pagar als pirates informàtics que revelin fallades crítiques que «comprometin la seguretat o la confiança del públic»
![Els experts demanen la creació d’una xarxa de «hackers ètics» Els experts demanen la creació d’una xarxa de «hackers ètics»](https://estaticos-cdn.prensaiberica.es/clip/7e2a385a-7c04-4f84-9908-8681e0d35b92_alta-libre-aspect-ratio_default_0.jpg)
El món necessita una xarxa global de ‘hackers ètics’ que s’encarregui de posar a prova les eines d’intel·ligència artificial i que alerti dels potencials perills d’aquestes tecnologies; ja sigui amb els engranatges que manegen un cotxe automàtic o amb els algoritmes que, a través de les xarxes socials, decideixen quan i com un contingut es converteix en viral. «Necessitem un equip de pirates informàtics de guant blanc que ataquin qualsevol plataforma nova i que dissenyin estratègies per utilitzar-la amb finalitats malicioses. Només així podrem saber quins danys potencials hi ha darrere d’aquestes eines i garantir la ‘confiança social’ en aquest tipus de tecnologies», reclama un grup internacional d’experts en un manifest publicat aquest mateix dijous a la revista ‘Science’.
La petició, encapçalada pel Centre per a l’Estudi del Risc Existencial (CSER) de la Universitat de Cambridge, reclama un canvi radical d’estratègia per fer front a la «crisi de confiança» que enfronta governs i societat amb aquestes tecnologies. Segons apunten els experts, en els últims anys la ciutadania ha sigut testimoni de diversos «comportaments qüestionables que ja estan entelant tot el camp» i que, des de ja, estan creant una «bretxa de confiança» en aquestes eines. «Estem començant a veure una reacció pública contra la tecnologia. Aquesta ‘fuetada tecnològica’ podria incloure-ho tot», adverteix l’investigador Shahar Avin.
«Necessitem un equip de pirates informàtics de guant blanc que ataqui qualsevol plataforma i dissenyi estratègies per utilitzar-la amb finalitats malicioses»
El manifest argumenta que «no és suficient que la indústria es comprometi amb uns principis ètics benintencionats» perquè, per garantir la confiança del públic, cal establir mecanismes d’«escrutini extern». Per això mateix, els impulsors d’aquesta iniciativa també presenten una llista actualitzada de pautes i recomanacions per crear una «intel·ligència artificial digna de confiança».
Recompenses econòmiques
Notícies relacionadesUna de les propostes que plantegen els experts és crear un sistema de «recompenses econòmiques» per a qualsevol investigador, o ‘hacker’, que reveli «fallades a les eines d’intel·ligència artificial que puguin comprometre la confiança o la seguretat del públic». És a dir, pagar qui trobi errors que fomentin, per exemple, la discriminació «racial o socioeconòmica» a les plataformes d’atenció mèdica o recerca de feina (una cosa que, com revelen diverses investigacions, ja està passant). Empreses com Twitter ja utilitzen aquesta estratègia per «recompensar els que trobin biaixos en els seus algoritmes».
«Les empreses es beneficiarien d’aquests descobriments i tindrien temps per abordar-los abans que es revelin públicament», argumenten els signants de l’article publicat a ‘Science’. Avin, per la seva banda, també explica que en aquests moments gran part d’aquestes iniciatives «es realitzen de forma limitada i ad hoc per part d’acadèmics i periodistes d’investigació» però que, tot i així, fa falta crear un sistema d’auditories més robust. «Es necessiten auditories per part d’agències externes fiables, estàndards oberts sobre com documentar aquest procés i plataformes dedicades a compartir aquests incidents», reclama el manifest a favor dels ‘hackers’ ètics.
- Jocs Olímpics 2024 París oculta la foscor i exhibeix el seu decorat en els Jocs
- Handbol Les ‘Guerreres’ no compareixen i cauen amb estrèpit en el debut
- Tennis Moyá fa saltar les alarmes sobre la presència de Nadal a París
- Sèrie aclamada Com enamorar sense cursileries
- QUATRE HOSPITALITZATS Un brot de salmonel·losi en un bar deixa almenys 22 afectats
- Les polítiques de la Unió Europea Brussel·les empeny a acabar amb l’addicció a les xarxes socials tòxiques
- Les polítiques de la Unió Europea Espanya insta les tecnològiques a actuar contra els patrons addictius
- SUCCESSOS Presó per al maquinista i un excàrrec d’Adif per l’accident de l’Alvia
- Gislan Zekri, estudiant de Treball Social: "Entendre el context cultural de la persona és vital per ajudar-la"
- Narcotràfic Confiscades quatre tones de cocaïna al port de Barcelona