Un advocat admet que va utilitzar ChatGPT per a un escrit i el programa es va inventar precedents

Un advocat nord-americà s’enfronta a possibles sancions després d’haver utilitzat el popular ChatGPT per redactar un escrit i descobrir-se que l’aplicació d’intel·ligència artificial (IA) s’havia inventat tota una sèrie de suposats precedents legals.

Segons va publicar aquest dissabte el diari ‘The New York Times’, el lletrat en qüestió és Steven Schwartz, advocat d’un cas que es dirimeix en un tribunal de Nova York, una demanda contra l’aerolínia Avianca presentada per un passatger que assegura que va patir una lesió al ser colpejat amb un carro de servei durant un vol.

Schwartz representa el demandant i va utilitzar ChatGPT per elaborar un escrit en què s’oposava a una sol·licitud de la defensa perquè el cas fos desestimat. En el document de 10 pàgines l’advocat citava diverses decisions judicials per recolzar les seves tesis, però no va trigar a descobrir-se que el conegut xatbot de la companyia OpenAI se les havia inventat.

Descobert pel jutge

«El Tribunal es troba davant una situació inèdita. Una presentació remesa per l’advocat del demandant en oposició a una moció per desestimar (el cas) és plena de cites de casos inexistents», va escriure el jutge Kevin Castel aquest mes.

Aquest divendres, Castel va emetre una ordre convocant una audiència el 8 de juny vinent en què Schwartz haurà de mirar d’explicar per què no hauria de ser sancionat després d’haver mirat d’utilitzar suposats precedents totalment falsos. Ho va fer l’endemà que el mateix advocat presentés una declaració jurada en què va admetre haver utilitzat ChatGPT per preparar l’escrit i va reconèixer que l’única verificació que havia portat a terme era preguntar-li a l’aplicació si els casos que citava eren reals.

Notícies relacionades

¿Acabarà prohibint-se ChatGPT?

L’alcalde de Santa Susanna, investigat per un abocament

Schwartz es va justificar assegurant que mai abans havia utilitzat una eina d’aquest tipus i que, per tant, «no era conscient de la possibilitat que el seu contingut pogués ser fals». L’advocat va remarcar que no tenia cap intenció d’enganyar el tribunal i va exculpar totalment un altre advocat del bufet que s’exposa també a possibles sancions.

El document, vist per Efe, es tanca amb una disculpa en què Schwartz lamenta profundament haver utilitzat intel·ligència artificial per recolzar la seva investigació i promet no fer-ho mai més sense verificar totalment la seva autenticitat.