AI

Jedan student je već napravio aplikaciju za otkrivanje teksta koji je napisao ChatGPT AI

„Ljudsko pisanje može biti tako lepo. Postoji lepota u ljudskoj prozi koju kompjuteri nikada ne mogu i ne bi smeli da preuzmu."
Screen Shot 2023-01-05 at 3
Snimak ekrana GPTZ

Od pojave ChatGPT-a, četbota koji može da generiše realističan tekst na osnovu različitih upita koje korisnik unese, nastavnici i edukatori su zabrinuti zbog mogućnosti varanja na ispitima koje omogućava mašinsko učenje. U toj borbi protiv plagijata koje piše veštačka inteligencija, prvi korak je napravio student računarstva i novinarstva sa Prinstona Edvard Tian, koji je proveo zimski raspust praveći GPTZero, aplikaciju koja pokušava da otkrije da li je neki tekst napisan ljudskom rukom ili veštačkom inteligencijom.

Reklame

„Svako zaslužuje da iskoristi prednosti veštačke inteligencije, tako da su nam potrebne zaštitne mere kako ove nove tehnologije ne bi bile zloupotrebljene“, rekao je Tian za Motherboard. Jedna od njegovih glavnih motivacija u kreiranju aplikacije bila je veća transparentnost AI-a, rekao je.

„Jezički modeli i mašinsko učenje su tako dugo bili ozloglašeni po tome što su crna kutija u kojoj ne znamo šta se dešava ispod haube, a sa GPTZero-om želim da počnem da se suprotstavljam tome“, objasnio je Tian. „Kada sam napravio aplikaciju, bilo mi je zaista važno da sve bude postavljeno tako da korisnici mogu sami da vide brojeve, varijable, sve što se koristi u proračunima.”

Preko 16.000 ljudi je već isprobalo GPTZero, koji je trenutno još uvek u beta verziji. Korisnici mogu da unesu pet ili više reči u okvir za tekst i aplikacija – koja i sama radi po principu mašinskog učenje – analizirac tekst kako bi utvrdila da li ga je generisala veštačka inteligencija. Tekst se analizira po kriterijumima „zbunjenosti“, što je količina nasumičnog teksta, po tome i da li je model ranije video taj tekst, kao i po pitanju „rasprskavanja“, što je varijacija teksta tokom vremena. Dakle, ljudski pisani tekst bi imao veliku zbunjenost, nešto što je veoma nepoznato modelu veštačke inteligencije, i pokazivao bi svojstva rasprskavanja, što su neobične stavke koje se pojavljuju u nasumičnim grozdovima, umesto da su ravnomerno raspoređene.

Reklame

Tian je rekao da je GPTZero pogrešio u manje od 2 procenta slučajeva kada je testirao aplikaciju na skupu podataka BBC-jevih novinskih članaka, kao i na mašinski generisanim člancima sa istim upitom. Mi smo takođe isprobali aplikaciju koristeći paragrafe iz ovog članka, za koje je aplikacija smatrala da su napisani od strane ljudi, zbog visokog nivoa „zbunjenosti“.

Tian kaže da je aplikacija još uvek u beta verziji i ne očekuje da će za sada iko donositi konačne odluke o nekom tekstu na osnovu njegovog alata. Takođe trenutno je vreme učitavanja baš dugo. Za naredne korake, on se nada da će rafinisati rezultate , tako da to apliakcije ne daje samo binarni „čovek ili AI“, već nijansirani rezultat sa analizom koju ljudski korisnici mogu sami da tumače. Tian je redovno objavljivao ažuriranja na svom Substacku za one koji su zainteresovani da prate razvoj aplikacije.

OpenAI je priznao da postoji bojazan da će ChatGPT biti korišćen za varanje. Gostujući istraživač Scot Aronson rekao je na predavanju u decembru da kompanija radi na kreiranju vodenih žigova koji će se pojaviti preko rezultata kako bi ljudi mogli da vide da je u pitanju mašinski generisan teksta. Ove nedelje, odeljenje za obrazovanje grada Njujorka zabranilo je pristup ChatGPT-u iz brige za „bezbednost i tačnost“.

Tian je priznao da iako postoje prednosti korišćenja ChatGPT-a, postoji mnogo aspekata ljudskog pisanja koje mašinsko učenje ne može da ponovi. „Ljudsko pisanje može biti tako lepo. Postoji lepota u ljudskoj prozi koju kompjuteri nikada ne mogu i ne bi smeli da preuzmu“, rekao je on.