Vídeos falsos, drets en perill

Pensa en un TikTok en el qual tot el contingut que veus és sintètic, no real. Així és la nova versió de Sora, anunciada dimarts. L’aplicació, dissenyada per replicar l’scroll infinit de rivals com la xinesa, Instagram Reels o YouTube Shorts, no és la primera a apostar per un feed algorítmic protagonitzat per la IA generativa. Meta en va llançar fa dues setmanes la seva pròpia versió, batejada com a Vibes, que ha rebut una allau de crítiques negatives.

Per ara, Sora només està disponible en iOS –el sistema operatiu d’Apple– mitjançant invitació i el seu accés queda limitat als usuaris dels EUA i el Canadà. Malgrat aquesta restricció, és ja l’app més descarregada a l’App Store, un èxit que es deu a la seva qualitat, però també al seu enfocament social. Es diferencia de les altres per la seva capacitat de recrear versions digitalitzades de les cares i veus dels usuaris, cosa que denominen cameo.

OpenAI està incentivant l’ús dels cameos. Al crear-te un compte, Sora et demana gravar la teva cara per crear-ne larèplica virtual, experimentar amb la teva imatge i compartir el resultat amb els altres. EL PERIÓDICO ha obtingut un passi per utilitzar-la i, en pocs minuts i amb molt poques indicacions, ha pogut generar vídeos hiperrealistes d’una persona real convertida en astronauta, surfista, personatge de Tolkien o d’un anime cyberpunk. Amb això, la companyia no només apel·la a la curiositat personal, una estratègia que va permetre a ChatGPT convertir-se en l’app de més ràpid creixement de la història, sinó que també juga amb el que es coneix com a vall inquietant, l’efecte que mesura la reacció humana a les seves rèpliques antropomòrfiques– per enganxar l’usuari.

Notícies relacionades

Medalla d’Honor de Foment a Oliu, Fontana i Letta

Llum verda del Govern a la millora de l’N-2 i la C-32 al Maresme

"El resultat és increïble i encara no n’hem vist tot el potencial", explica Isabel Martínez, directora creativa a Isabelita Virtual i curator externa d’OpenAI. L’artista catalana veu en Sora una eina de creació que obre noves finestres narratives, una evolució exponencial del que al seu dia van suposar els filtres d’Instagram. "Ja no necessites tenir gaires coneixements tècnics ni elaborar un prompt detallat per explicar moltes coses de manera impressionant (...). Tot i així, el que et fa artista no és això, sinó tenir una mirada pròpia que aporti".

La facilitat amb la qual Sora 2 genera vídeos versemblants desperta preocupació pel seu potencial ús per a finalitats malicioses com la desinformació, l’assetjament o la suplantació d’identitat. I és que, com més realistes són les imatges, més fàcil és que algú assumeixi erròniament que són certes. A més, l’app permet replicar certes personalitats mortes i modificar les seves paraules o logotips d’empreses, cosa que pot contribuir al problema.