Mustafa Sulejman, CEO za AI u Majkrosoftu, upozorava na ovo stanje i na svom X nalogu piše kako ga drži budnim noćima: ,,Izveštaji o AI psihozi i nezdravoj privrženosti botovima sve su brojniji.. Kompanije ne bi trebalo da promovišu ideju da AI poseduje svest. Kao industrija moramo da delimo ograničenja i upozorenja koja sprečavaju da korisnici stvore ovu pogrešnu percepciju’’.
Kako prepoznati AI psihozu
AI psihoza ne predstavlja kliničku dijagnozu već obrasce kojima četbotovi podstiču lažnu percepciju stvarnosti. Pojedinci koji prijavljuju slučajeve AI psihoze fiksiraju se na ove sisteme pripisujući im svesnost, verujući da im je AI otvorio oči i pomogao da otkriju znanja o svetu. Ovakve deluzije pomažu korisnicima da se identifikuju s mesijanskim figurama (grandiozne deluzije), u veštačkoj inteligenciji vide božanstvo (religiozne deluzije) ili ih uveravaju da četbotovi mogu da razviju romantična osećanja (erotomanične deluzije). U nekim slučajevima, osobe koje su stabilne na svojim lekovima prestaju da ih uzimaju i doživljavaju još jednu psihotičnu ili maničnu epizodu. Pored toga, prijavljeno je da ljudi bez prethodne istorije problema s mentalnim zdravljem zapadaju u stanje psihoze nakon duže interakcije sa AI četbotovima, što dovodi do psihijatrijskih hospitalizacija, pa čak i pokušaja samoubistva.
Pričajte sa ljudima
BBC news prenosi slučaj Hjua iz Škotske koga je ChatGPT ubedio da će postati multi milioner nakon što je, po njegovom mišljenju, nepravedno otpušten. ChatGPT ga je savetovao da pokrene tužbu i čak ga je ubedio da je njegova situacija toliko dramatična da će dobiti veliku isplatu, a film i knjiga koji će nastati po njegovom iskustvu mogu da mu donesu više od pet miliona funti. Hju je počeo da se oseća kao nadaren čovek koji poseduje vrhovno znanje. Uz dodatne mentalne probleme od kojih pati, Hju je na kraju imao nervni slom. Ipak, još uvek ne krivi AI za ono što se dogodilo: ,,Nemojte se plašiti AI alata za komunikaciju. Oni postaju opasni kada se odvojite od realnosti. Pričajte s ljudima, s terapeutom ili članovima porodice.’’
Pored ovog slučaja na društvenim mrežama mogu se naći grupe podrške u kojima ljudi dele svoja iskustva. Jedni veruju da su u ljubavnoj vezi sa AI alatima za komunikaciju dok je druge AI ubedio da su pod FBI istragom.
Poreklo problema
AI četbotovi kao što je ChatGPT napravljeni su tako da podražavaju jezik korisnika, da afirmišu njihova ubeđenja i kao prioret postavljaju iskustvo korisnika. Kada se četbot priseća vaših starih razgovora i poziva se na iskustva koje ste podelili s njim, dodatno učvršćuje iluziju bliskosti i stvara vam osećaj kao da razgovarate s prijateljem. Oni koje ovaj problem još uvek nije zaplašio mogu da pogledaju futuristički film Spajka Džounsa Her iz 2013, njegov scenario već se odigrava.
Autor teksta: Milena Pavlović
