Sudija u Kolumbiji doneo prvu ikada zabeleženu presudu uz pomoć ChatGPT

Sudija u Kolumbiji je koristio ChatGPT da donese sudsku odluku, što je prvi put da je pravna odluka doneta uz pomoć generatora AI teksta - ili barem prvi put da znamo za to.

Sudija Huan Manuel Padilja Garsija, koji predsedava Prvim okružnim sudom u gradu Kartaheni, rekao je da je koristio AI alat da postavi pravna pitanja u vezi sa slučajem i uključio je odgovore koje je ChatGPT dao u svoju odluku, prema sudskom dokumentu od 30. januara 2023. .

„Argumenti za ovu odluku biće utvrđeni u skladu sa upotrebom veštačke inteligencije (AI)“, napisao je Garsija u odluci, koja je prevedena sa španskog. „Prema tome, uneli smo delove pravnih pitanja postavljenih u ovom postupku“.

„Svrha uključivanja ovih tekstova koje je proizvela veštačka inteligencija ni na koji način nije da zamene sudijsku odluku,“ dodao je on. „Ono što zaista tražimo je da optimizujemo vreme provedeno u donošenju presuda nakon potvrđivanja informacija koje je AI pružila“

Slučaj je uključivao spor sa kompanijom za zdravstveno osiguranje oko toga da li autistično dete treba da dobije pokriće za lečenje. Prema sudskom dokumentu, pravna pitanja koja su uneta u AI alat uključivala su „Da li je maloletnik sa autizmom oslobođen plaćanja takse za svoje terapije?“ i „Da li je sudska praksa ustavnog suda donela povoljne odluke u sličnim slučajevima?“

Garsija je u odluku uključio pune odgovore četbota, što je očigledno prvi put da je sudija priznao da je to učinio. Sudija je takođe uključio svoje uvide u važeće pravne presedane i rekao da je AI korišćen za „proširivanje argumenata usvojene odluke“. U presudi se navode detalji razgorovora sa AI, a sudija zatim usvaja AI odgovore i svoje pravne argumente kao osnovu za svoju odluku.

Kolumbijski zakon ne zabranjuje upotrebu veštačke inteligencije u sudskim odlukama, ali sistemi kao što je ChatGPT su poznati po tome što daju odgovore koji su pristrasni, diskriminatorni ili jednostavno pogrešni. To je zato što jezički model nema stvarno „razumevanje“ teksta – on samo sintetiše rečenice zasnovane na verovatnoći iz miliona primera koji se koriste za obuku sistema.

Kreatori ChatGPT-a implementirali su filtere kako bi eliminisali neke od problematičnijih odgovora. Ali programeri upozoravaju da alat i dalje ima značajna ograničenja i da ga ne bi trebalo koristiti za konsekventno donošenje odluka.

Iako je ovaj slučaj prvi put da je sudija priznao da koristi generator AI teksta kao što je ChatGPT, neki sudovi su – što je kontroverzno – već počeli da koriste automatizovane alate za donošenje odluka u određivanju kazne ili odluke da li optuženi mogu biti pušteni uz kauciju. Korišćenje ovih sistema u sudovima je žestoko kritikovano od strane svih koji se bave etikom veštačke inteligencije, koji ističu da oni redovno jačaju rasističke i seksističke stereotipe i pojačavaju već postojeće oblike nejednakosti.

Iako podnesak kolumbijskog suda ukazuje da je AI uglavnom korišćen za ubrzavanje izrade odluke i da su njeni odgovori provereni činjenicama, verovatno je znak da je to ono što nam se sprema.