Prošle nedelje, OpenAI je objavio dragocene za edukatore koji ukazuju na to da neki nastavnici koriste ChatGPT kao obrazovno sredstvo. Kompanija je takođe ponudila predlog promtpova kako bi pomogla nastavnicima da počnu da koriste ovaj alat.
Međutim, u povezanom odeljku sa čestim pitanjima, kompanija je takođe otkrila ono što su svi znali: detektori veštačke inteligencije ne rade svoj jedini posao adekvatno. Kao rezultat njihovog nepravilnog funkcionisanja i pristrasnosti, mnogi studenti bivaju nepravedno kažnjeni.
AI detektori ne funkcionišu
Na pitanje da li detektori veštačke inteligencije zaista funkcionišu, OpenAI je kratko rekao da ne. Mnoge kompanije, uključujući OpenAI, uvele su alate koji tvrde da otkrivaju sadržaj generisan veštačkom inteligencijom. Međutim, nijedan do sada nije dosledno pokazao da je sposobna da pouzdano pokaže razliku između AI sadržaja i sadržaja koji su generisali ljudi.
Naime, AI detektori često generišu lažne pozitivne rezultate jer se oslanjanjaju na neproverene metrike detekcije. Na kraju krajeva, ne postoji ništa posebno u vezi sa tekstom generisanim veštačkom inteligencijom što ga pouzdano izdvaja od sadržaja pisanog od strane ljudi. Osim toga, odlučni pisci mogu lako zaobići ove detektore jednostavnim preformulisanjem
Izvor: Google
Iz tog razloga, OpenAI je ukinuo svoj AI klasifikator — eksperimentalni alat dizajniran za otkrivanje teksta napisanog veštačkom inteligencijom, koji je pokazao alarmantno nisku stopu tačnosti od 26%
Može li ChatGPT prepoznati tekst generisan veštačkom inteligencijom?
Novi odgovori u delu za često postavljana pitanja kompanije OpenAI takođe razbijaju još jednu uobičajenu zabludu. Naime, ChatGPT ne može da uoči da li je tekst generisan veštačkom inteligencijom ili ne. OpenAI pojašnjava da ChatGPT nema nikakvo ‘znanje’ o tome koji sadržaj može biti generisan AI. Povremeno generiše odgovore na upite poput „da li ste napisali ovaj [esej]?“ ili „da li je ovo možda napisao AI?” Ipak, svi su proizvoljni i lišeni činjenične osnove.
U skladu sa ovim, OpenAI se takođe bavi sklonošću svojih AI modela da proizvode fabrikovane informacije. Kompanija je navela da ChatGPT povremeno može zvučati uverljivo, ali bi takođe mogao da pruži netačne ili pogrešne informacije, odnosno da halucinira. Kompanija je dodala da popularni četbot može čak da izmisli citate ili citate, čemu ne treba verovati.
Da li je tekst napisan veštačkom inteligencijom neprepoznatljiv?
Iako automatizovani detektori veštačke inteligencije pokazuju nedostatak efikasnosti, to ne znači da ljudi ne mogu da prepoznaju tekst generisan veštačkom inteligencijom. Nastavnici upoznati sa tipičnim stilom pisanja učenika mogu uočiti odstupanja u stilu ili sposobnostima.
Izvor: Google
Pored toga, aljkavi pokušaji da se rad generisan od veštačke inteligencije predstavi kao napisan od strane ljudi često ostavljaju nepogrešive tragove, kao što je fraza „kao jezički model veštačke inteligencije“. Ovo dalje ukazuje na to da je neko nemarno kopirao i nalepio ChatGPT izlaz. Primetno je da je nedavni članak u naučnom časopisu Nature istakao slučajeve u kojima su čitaoci otkrili frazu „Regeneriraj odgovor“ u naučnom radu, što odgovara oznaci dugmeta u ChatGPT-ju.
U trenutnim tehnološkim okolnostima, najsigurnije je u potpunosti se kloniti automatizovanih alata za otkrivanje veštačke inteligencije. Analitičari veštačke inteligencije primetili su da pisanje AI ostaje praktično neprimetno i verovatno će tako i ostati. AI detektori pokazuju visoku stopu lažnih pozitivnih rezultata i treba ih izbegavati.
