Sudija žestoko kaznio advokata zbog korišćenja ChatGPT-a za izmišljanje sudskih presedana

Rafael Ramirez, advokat iz Indijane, mogao bi da plati kaznu od 15.000 dolara nakon što je sudija utvrdio da je u svojim podnescima sudu citirao nepostojeće sudske slučajeve koje je generisala veštačka inteligencija. Ovaj iznos je tri puta veći od kazne koja je izrečena advokatima u sličnom slučaju 2023. godine.

Ramirez je zastupao kompaniju HooserVac LLC u tužbi vezanoj za njihov penzioni fond u oktobru 2024. godine, kada je u tri različita podneska naveo sudske presedane koje sud nije mogao da pronađe jer ih je zapravo izmislio ChatGPT.

Preporučujemo

U decembru je američki magistratski sudija za Južni okrug Indijane Mark Dž. Dinsmore naložio Ramirezu da se pojavi pred sudom i objasni zašto ne bi trebalo da bude sankcionisan zbog ovih grešaka.

"Zamena brojeva u citatu, pogrešan datum ili pogrešno napisano ime stranke jeste greška", napisao je sudija. "Citiranje slučaja koji jednostavno ne postoji je nešto sasvim drugo. Gospodin Ramirez ne nudi nikakvo objašnjenje kako se citat izmišljenog slučaja našao u njegovom podnesku. Najočiglednije objašnjenje je da je koristio alat za generisanje veštačke inteligencije kao pomoć u sastavljanju podneska i nije proverio citate pre nego što ga je podneo."

Opasnosti nepromišljenog korišćenja veštačke inteligencije u advokaturi

Ramirez je priznao da je koristio generativnu veštačku inteligenciju, ali je insistirao da nije shvatio da slučajevi nisu stvarni jer nije bio svestan da AI može da generiše fiktivne slučajeve i citate. Takođe je priznao da nije poštovao Federalno pravilo građanskog postupka 11, koje zahteva da tvrdnje moraju biti zasnovane na dokazima koji trenutno postoje ili za koje postoji velika verovatnoća da će biti pronađeni kroz dalju istragu.

Sudija Dinsmore je naglasio da Ramirezov "propust da ispuni najosnovnije zahteve" čini njegovo ponašanje "posebno sankcionabilnim". Dodao je da je Ramirez propustio da pruži kompetentno zastupanje i dao je nekoliko lažnih izjava sudu, zbog čega je upućen glavnom sudiji na dalje disciplinske mere.

Dinsmore je preporučio da Ramirez bude kažnjen sa 5.000 dolara za svaki od tri podneska koji su sadržali izmišljene slučajeve.

Ramirez je izjavio da je od tada pohađao pravne edukativne kurseve o upotrebi veštačke inteligencije u pravu i da nastavlja da koristi AI alate, ali očigledno sa većom pažnjom.

Ovo nije prvi slučaj da se advokatsko oslanjanje na veštačku inteligenciju pokazalo pogrešnim. U junu 2023. godine, dvojica advokata i njihova advokatska kancelarija kažnjeni su sa 5.000 dolara od strane okružnog sudije na Menhetnu zbog citiranja lažnih pravnih istraživanja generisanih pomoću ChatGPT-a.

U januaru ove godine, advokati u Vajomingu su podneli devet slučajeva kao podršku argumentu u tužbi protiv kompanija Walmart i Jetson Electric Bikes zbog požara navodno izazvanog hoverbordom. Ispostavilo se da je osam od tih slučajeva izmislio ChatGPT.

Pravni stručnjaci sve češće upozoravaju na opasnosti nekritičkog korišćenja veštačke inteligencije u pravnoj praksi. Fenomen poznat kao "halucinacije AI" – kada AI sistemi generišu uverljivo zvučeće, ali potpuno izmišljene informacije – predstavlja ozbiljan problem za pravnu struku koja se temelji na preciznosti i proverenosti podataka.

(Telegraf.rs)