Secció recomanada per

Eclosió tecnològica

El creador de ChatGPT llança una eina per detectar els textos escrits per la intel·ligència artificial

OpenAI publica un sistema per predir si un escrit ha sigut generat de manera automàtica però una màquina, tot i que adverteix que no és del tot fiable

El creador de ChatGPT llança una eina per detectar els textos escrits per la intel·ligència artificial

Brendan McDermid / Reuters

2
Es llegeix en minuts
Carles Planas Bou
Carles Planas Bou

Periodista

Especialista en tecnologia i el seu impacte sociopolític.

Ubicada/t a Barcelona

ver +

La popularització de sistemes d’Intel·ligència Artificial (IA) com ChatGPT, capaç de generar de forma automàtica tota mena de textos, estan obrint un profund debat social sobre l’impacte d’aquesta emergent tecnologia. ¿I si ja no podem distingir entre el que escriu un humà i el que escriu una màquina? ¿Accelerarà això la nostra desconfiança?

Aquest temor creix a mesura que el xatbot –capaç de respondre falsedats presentant-les com a certes– és cada vegada més utilitzat entre estudiants, investigadors acadèmics i fins i tot periodistes per realitzar la seva feina.

Això ha portat OpenAI, la companyia desenvolupadora de ChatGPT, a llançar una nova eina gratuïta per predir si un escrit ha sigut generat artificialment. L’empresa que ha popularitzat aquesta IA publica ara una altra IA per detectar-la.

«No Fiable»

Tanmateix, aquest classificador «no és totalment fiable». La mateixa OpenAI assenyala que la seva eina en fase inicial identifica correctament només el 26% dels textos escrits per ChatGPT o altres IA similars, mentre que en un 9% dels casos etiqueta com a text artificial aquell generat per humans. «El nostre classificador té una sèrie de limitacions importants. No ha d’utilitzar-se com a eina principal per a la presa de decisions, sinó com a complement d’altres mètodes per determinar l’origen d’un text», explica la companyia.

Notícies relacionades

Així doncs, ¿per què publica OpenAI una eina que falla? L’empresa ha assegurat que l’ha compartit «per obtenir opinions» i anar millorant el seu mètode. Els models de llenguatge com l’utilitzat per ChatGPT milloren a l’entrenar-se amb noves preguntes a resoldre. Així, recolzar-se en el públic perquè experimenti amb aquest classificador «imperfecte» és el camí més ràpid (i barat) per perfeccionar el seu producte. Per això van fer el mateix amb el llançament del seu xatbot.

Sam Altman, un dels fundadors de OpenAI, ha advertit en les últimes setmanes sobre l’ús acrític de ChatGPT perquè incorre en fallades i és «impossible de fer que sigui perfecte». Tot i així, continuaran experimentant amb la IA. Una experimentació que també respon a la voluntat de la companyia –en la qual Microsoft ha invertit 10.000 milions de dòlars– d’avançar-se a la competència i ser la primera a liderar l’emergent mercat de la que pot ser la tecnologia de la dècada. En els últims dies, investigadors havien publicat les seves solucions per detectar el text generat per IA. Traient la seva, OpenAI busca continuar guanyant terreny.