La Comissió Europea obre una investigació contra X per Grok, la IA d’Elon Musk utilitzada per despullar dones i nens

Brussel·les sospita que la plataforma abans coneguda com a Twitter i propietat del magnat tecnològic podria haver violat la llei de serveis digitals (DSA) a l’activar Grok sense avaluar ni mitigar adequadament riscos relacionats amb la difusió d’imatges manipulades sexualment explícites i material d’abús sexual infantil, els dos continguts il·legals a la Unió Europea.

Les institucions comunitàries adverteixen que «aquests riscos sembla que s’han materialitzat, i han exposat els ciutadans de la UE a greus danys» per al seu benestar físic i mental.

«Els ‘deepfakes’ sexuals no consentits de dones i nens són una manera violenta i inacceptable de degradació. Amb aquesta investigació, determinarem si X ha complert les seves obligacions legals en virtut de la DSA, o si ha tractat els drets dels ciutadans europeus –inclosos els de les dones i els nens– com a danys col·laterals del seu servei», ha declarat Henna Virkkunen, vicepresidenta executiva de Sobirania Tecnològica, Seguretat i Democràcia, en un comunicat.

Les lleis europees obliguen les grans plataformes d’internet a avaluar els riscos sistèmics dels seus productes i serveis abans d’implementar-los i obrir-los així a l’ús ciutadà. La investigació exigirà a l’home més ric del món proporcionar un informe sobre aquest procés per provar que s’havien tingut en compte els potencials efectes negatius de la funcionalitat que permet a la seva IA generar tota mena d’imatges.

Segona investigació

Paral·lelament, la Comissió també ha ampliat una altra investigació, en curs des del desembre del 2023, que estudia un possible incompliment de les obligacions d’X en matèria de gestió de riscos dels seus sistemes de recomanació. Amb això, si inclou la decisió de la plataforma de canviar a un sistema algorítmic basat en Grok.

Notícies relacionades

Ciberespies de tot el món es reuneixen a Barcelona en un congrés secret organitzat per una empresa d’Israel

Viquipèdia compleix 25 anys i firma acords d’IA amb Microsoft, Meta i Amazon per monetitzar-ne el contingut

Si demostra que X ha incomplert la normativa comunitària, Brussel·les podria imposar una multa l’import màxim de la qual podria ser equivalent al 5% del seu volum de negoci mundial diari, cosa que significa una sanció milionària. A més, durant aquell període, les institucions comunitàries es reserven el dret a adoptar noves mesures coercitives.

El 5 de desembre, la Comissió va imposar a X una multa de 120 milions d’euros per incomplir les obligacions de transparència establertes per la DSA al no informar amb claredat de com opera la publicitat a la plataforma, negar l’accés dels investigadors a les seves dades públiques i adoptar un «disseny enganyós» amb la marca de verificació blava, un mètode abans reservat a institucions o personalitats públiques que Musk va vendre al millor postor per convertir-lo en una font d’ingressos. El magnat va respondre a la multa demanant l’«abolició» de la UE.