Eclosió tecnològica
El creador de ChatGPT llança una eina per detectar els textos escrits per la intel·ligència artificial
OpenAI publica un sistema per predir si un escrit ha sigut generat de manera automàtica però una màquina, tot i que adverteix que no és del tot fiable
La popularització de sistemes d’Intel·ligència Artificial (IA) com ChatGPT, capaç de generar de forma automàtica tota mena de textos, estan obrint un profund debat social sobre l’impacte d’aquesta emergent tecnologia. ¿I si ja no podem distingir entre el que escriu un humà i el que escriu una màquina? ¿Accelerarà això la nostra desconfiança?
Aquest temor creix a mesura que el xatbot –capaç de respondre falsedats presentant-les com a certes– és cada vegada més utilitzat entre estudiants, investigadors acadèmics i fins i tot periodistes per realitzar la seva feina.
Això ha portat OpenAI, la companyia desenvolupadora de ChatGPT, a llançar una nova eina gratuïta per predir si un escrit ha sigut generat artificialment. L’empresa que ha popularitzat aquesta IA publica ara una altra IA per detectar-la.
We’re developing a new tool to help distinguish between AI-written and human-written text. We’re releasing an initial version to collect feedback and hope to share improved methods in the future. https://t.co/4dQE3dX6vX
— OpenAI (@OpenAI) 31 de enero de 2023
«No Fiable»
Tanmateix, aquest classificador «no és totalment fiable». La mateixa OpenAI assenyala que la seva eina en fase inicial identifica correctament només el 26% dels textos escrits per ChatGPT o altres IA similars, mentre que en un 9% dels casos etiqueta com a text artificial aquell generat per humans. «El nostre classificador té una sèrie de limitacions importants. No ha d’utilitzar-se com a eina principal per a la presa de decisions, sinó com a complement d’altres mètodes per determinar l’origen d’un text», explica la companyia.
Així doncs, ¿per què publica OpenAI una eina que falla? L’empresa ha assegurat que l’ha compartit «per obtenir opinions» i anar millorant el seu mètode. Els models de llenguatge com l’utilitzat per ChatGPT milloren a l’entrenar-se amb noves preguntes a resoldre. Així, recolzar-se en el públic perquè experimenti amb aquest classificador «imperfecte» és el camí més ràpid (i barat) per perfeccionar el seu producte. Per això van fer el mateix amb el llançament del seu xatbot.
Sam Altman, un dels fundadors de OpenAI, ha advertit en les últimes setmanes sobre l’ús acrític de ChatGPT perquè incorre en fallades i és «impossible de fer que sigui perfecte». Tot i així, continuaran experimentant amb la IA. Una experimentació que també respon a la voluntat de la companyia –en la qual Microsoft ha invertit 10.000 milions de dòlars– d’avançar-se a la competència i ser la primera a liderar l’emergent mercat de la que pot ser la tecnologia de la dècada. En els últims dies, investigadors havien publicat les seves solucions per detectar el text generat per IA. Traient la seva, OpenAI busca continuar guanyant terreny.
- Morad torna als blocs de la Florida al guanyar el cas del ‘desterrament’
- Illa manté en el seu Govern més de 60 alts càrrecs de l’etapa Aragonès
- Els Castellers de Vilafranca revaliden el títol a Tarragona
- Crim atroç d’un jove de 15 anys a Marsella pel narcotràfic
- LLIGA F (1-8) El Barça torna a lluir-se contra el Madrid CFF en un duel amb polèmica
- Al minut Guerra d’Israel en directe: última hora sobre el final de la treva a Gaza, l’ajuda humanitària i reaccions
- Avançar el rellotge Tot sobre el canvi d’hora d’octubre de 2022 a Espanya: així entrem en l’horari d’hivern
- La Damm rejoveneix als 70 amb la nova ciutat esportiva
- Hansi Flick: "Lewandowski és el millor del món a l’àrea"
- Mitja hora demolidora del Barça