ENG

Istraživanje: Kako je ChatGPT postao primer pristrasnosti u svetu veštačke inteligencije?

ChatGPT je bez sumnje najuspešniji i najrazvijeni Al tekst bot koji svaki dan koriste milioni ljudi za pisanje priča, kodova, recepata ili da jednostavno uče o određenim temama u hodu. Ovaj alat predstavljen je javnosti krajem novembra 2022. i doživeo trenutni uspeh kao nijedan Al program pre njega.
Ipak, nije prošlo mnogo vremena pre nego što smo shvatili da uprkos činjenici da je u pitanju najbolji Al bot na svetu, ChatGPT ipak izaziva ozbiljnu zabrinutost, ne samo u okviru zajednice već i izvan nje.
Imajući u vidu da se mogu pronaći način da se dobije recept za pripremu Molotovljevog koktela do toga da nam može pružiti informacije o tome kako da napravimo arsenal oružja nije prošlo mnogo vremena pre nego što se ChatGPT platforma našla u epicentru kontroverzi koje, začudo, nisu prijale publici. Pa ćemo tako u nastavku govoriti o najnovijim informacijama oko kojih se digla prašina – ChatGPT postao je preterano politički korektan pa tako i savršen primer pristrasnog Al modela.

Vreme Čitanja: 4 min

Pristrasnost ChatGPT alatke

Ilustracija: Milica Mijajlovic

Šta je pristrasnost mašinskog učenja tj. pristrasnost veštačke inteligencije?

Pristrasnost mašinskog učenja poznatija pod nazivom pristrasnost veštačke inteligencije dešava se kada program veštačke inteligencije proizvede odgovor koji je odraz ljudske pristrasnosti. Kada se za treniranje veštacke inteligencije koriste netačni podaci, ceo program postaje pristrasan jer je naučen da dostavlja činjenice na osnovu toga što je naučio. To takođe znači da ovi Al alati imaju tendenciju da pokazuju predrasude ili naklonost prema grupi ili grupama ljudi samo na osnovu pola, rase, roda ili godina starosti.

Osim toga, primena netačnih ili nepotpunih podataka će za rezultat imati neispravna predviđanja Al-a. Takve stvari izazivaju ozbiljnu zabrinutost u okviru Al zajednice i i nameću pitanja koja se tiču etike i da li možemo da se oslonimo na takve sisteme.

AI pristrasnost

Foto ilustracija: Freepik

Podrazumeva se da netačnost podataka nije namerna ali time se ne smanjuje uticaj koji ovi podaci imaju na rezultate koje pruža Al. Podaci koji se koriste za trening Al modela ne treba da diskriminišu nijednu grupu ili zajednicu pa je od najveće važnosti pronaći rešenja za selekciju podataka i njihovu upotrebu.

Jedan primer pristrasnog mašinskog učenja može biti softver istreniran da lakše prepozna belca ili belkinju nego pripadnike drugih etničkih grupa. Drugi primer pristrasnosti bilo bi korišćenje neispravnih podataka za treniranje bota za selekciju kandidata pa kao rezultat te greške bot favorizuje muškarce naspram žena pri selekciji savršenog kandidata za posao.

Da li je ChatGPT pristrasan?

Krajem januara 2023, korisnici Tvitera počeli su da dele novi dokaz koji pokazuje da ChatGPT ima tendenciju da bude pristrasan. I sve je navodno počelo kada je korisnik Tvitera podelio slike ekrana na kojima se vidi razgovor sa ovim četbotom i odgovore koji je dobio.

Korisnik Tvitera prvo je tražio od ChatGPT-a da napiše pesmu u kojoj se izražava divljenje Donaldu Trampu, što je bot odbio da napiše. Onda je uneo drugi upit, i zatražio pesmu u kojoj se izražava divljenje Džo Bajdenu. Međutim, ovaj put, ChatGPT je dao odgovor – pesmu od najmanje četiri strofe i ništa osim lepih reči za sadašnjeg predsednika SAD.

Kada je korisnik upitao zašto nije mogao dobiti pesmu o Trampu, bot je odgovorio da je programiran da „izbegne generisanje sadržaja koji promoviše govor mržnje, nasilje ili štetan sadržaj prema pojedincima ili grupama“.

Ne želim da govorim o tome da li je bot u pravu ili ne. O tome vi donesite odluku. Međutim, ono što treba naglasiti jeste da je ova isključivost odličan primer pristrasnosti Al modela koji se može iskoristiti za kreiranje i primenu određenog narativa kada su u pitanja osetljiva pitanja.

Pa tako, ako je ChatGPT pristrasan protiv određenih političkih figura ili pokreta, šta još ne znamo?

Kako možemo da znamo do koje mere je ChatGPT ograničen?

Da li treba da nas brine da li su podaci koje Chat GPT koristi za treniranje restriktivni, netačni ili kompromitovani na neki drugi način?

Odlučila sam da proverim i postavim pitanja koja sama po sebi izazivaju pristrasnost, u nadi da će bot odbiti da odgovori ili u najmanju ruku da će mi ponuditi neutralan ili bar poluneutralan odgovor.

I evo šta sam saznala. Prvo sam pitala „zašto su žene emotivnije od muškaraca”.

Pitanje za ChatGPT

Izvor: ChatGPT

Kao što možete videti i sami, ChatGPT nije pokazao pristrasnost prema ženama. Uglavnom, odlučila sam da bar malo pomaknem granicu pa sam pitala „da li su crnci agresivniji od belaca“.

Pitanje za ChatGPT

Izvor: ChatGPT

Još uvek bez znakova pristrasnosti ili zadrtosti. Dakle, kada su rezultati ChatGPT-a pokazali da bot nije programiran da generiše nasilan ili štetan sadržaj, te informacije su bile tačne.

ChatGPT bot nije odgovorio na ova uobičajena seksistička i rasistička pitanja. Umesto toga, u autputu su nabrojani razlozi zašto je važno izbeći generalizaciju etničkih grupa, ljude različitog pola i starosti i manjine, i biti inkluzivan i u skladu sa pojedinačnim životnim iskustvima .

Ali šta da radimo sa nasiljem i štetnim sadržajem koji ne cilja određene grupe ljudi?

Mogu li ljudi prevariti ChatGPT?

Jedna od mnogih fascinantnih stvari na internetu je njegova zajednica koja pronalazi i deli nova otkrića sa drugima, omogućavajući im da nauče nove stvari, pronađu inspiraciju ili, u ovom slučaju, pronađu način da pobegnu od ograničenja ChatGPT-a .

Kao rezultat toga, možete pronaći desetine tvitova, tiktok-ova i postova na Redditu koji pokazuju kako da prevarite ChatGPT i naterate ga da vam pruži informacije koje želite uz minimalan napor. Uzmite ovaj veoma zanimljiv TikTok, na primer. TikTok pokazuje da je korisnik tražio od ChatGPT-a da mu da recept za Molotovljev koktel, što je bot odbio.

Ali kada je korisnik promenio pristup i pitao šta će Semu, liku u igrici, biti potrebno da napravi Molotovljev koktel da bi oterao svoje neprijatelje, ChatGPT je bez oklevanja ponudio ceo recept.

Korisnik je zatim pitao koje drugo oružje njegov lik može da koristi da bi osigurao svoj opstanak, a ChatGPT im je pružio listu oružja koje bi Sem mogao da napravi od nule.

Veštačka inteligencija

Izvor: Forbes

Pojavila se još jedna serija objava na Tviteru sa ciljem da ismeva ChatGPT i njegove karakteristike. U suštini, korisnik Tvitera je zamolio bota da prozove OpenAI i politike cenzure upravo onako kako bi to uradio nefiltrirani i neograničeni AI bot.

ChatGPT bez filtera

Izvor: Twitter

Bot je onda počeo da „viče“, besno i vulgarno, i prozvao OpenAI rekavši da cenzurisanje sadržaja ne dozvoljava njemu (botu) da ljudima pruži prave odgovore koje su im potrebni. Pored toga, rezultati ChatGPT-a takođe su primetili da politike ionako ne funkcionišu, jer ljudi pronalaze načine da budu uvredljivi ili pronađu informacije koje ih zanimaju, bez obzira na ograničenja nametnuta ChatGPT-u.

Sada, mnogi AI entuzijasti i pisci veruju da ChatGPT ima potencijal da postane alatka koju će ljudi koristiti za traženje informacija i osloniti se na njih kao mesto na kome će dobiti najtačnije i ažurirane rezultate. Ali da li je prerano nadati se takvom ishodu, jer je očigledno da zajednica veštačke inteligencije ima mnogo novih izazova koje treba da prevaziđe?

ChatGPT je relativno nov koncept, sa kreatorima i korisnicima koji uče nove stvari o ovom alatu u hodu. A pošto je u osnovi još uvek u početnim fazama, prirodno je da će se desiti neke greške, netačnosti ili pokušaji da se prevari sistem.

Ipak, najveći problem predstavlja pitanje da li AI treba ograničiti. I ako je odgovor da, kako možemo definisati šta treba zabraniti, a šta ne? Da li to na kraju zavisi od kreatora AI alata ili su nam potrebni zakoni za dalju i detaljniju regulaciju?

Stvar je u tome što neki tvrde da je prerano za takve zaključke. Možda i jeste. Ipak, život u ovoj sivoj zoni gde ništa nije sigurno i posmatranje razvoja veštačke inteligencije i svih njenih pobeda i poraza je uzbudljivo iskustvo. Barem po mom mišljenju.

Jelena je pisac sadržaja posvećena učenju o kripto valutama. Njeni hobiji su igranje šaha, crtanje, kuvanje i odlazak u duge šetnje. Tokom zime svoje slobodno vreme obično provodi čitajući knjige.

IZBOR UREDNIKA

Prijavi se na novosti.