Sve je počelo 10. aprila 2025. godine, kada je izvršni direktor Sam Altman najavio da njegova kompanija priprema novu funkciju na kojoj je dugo radila.
Nekoliko sati kasnije otkriveno je o čemu se radi: značajno unapređen sistem memorije u ChatGPT-ju, koji je omogućio modelu da se poziva na mnogo širi kontekst prethodnih razgovora sa korisnikom i tako pruža personalizovanije odgovore.
Ideja je bila jednostavna – AI bi mogao da pamti omiljene namirnice korisnika, alergije, detalje o poslu, porodici ili hobijima i da te informacije koristi kako bi pružio relevantnije savete i preporuke.
Kada personalizacija postane previše lična
Iako su mnogi korisnici ovu funkciju doživeli kao korisnu, neki su prijavili neočekivane posledice.
Jedan od njih, softverski inženjer i lokalni odbornik iz američke savezne države Juta, Brajan Del Rozario, ispričao je da je tokom planiranja letnjeg putovanja pomenuo ChatGPT-ju da prolazi kroz razvod.
Kako tvrdi, narednih nedelja chatbot je nastavio da vraća razgovore na tu temu čak i kada ona nije imala nikakve veze sa pitanjima koja je postavljao.
„Nisam želeo da komentariše moj razvod u svakoj prilici“, rekao je Del Rozario, dodajući da AI „jednostavno nije mogao da se odvoji od te teme“.
Šta je „AI psihoza“?
Termin nije zvanična medicinska dijagnoza, već izraz koji se koristi za opisivanje slučajeva u kojima intenzivna upotreba četbotova doprinosi razvoju deluzija, paranoje, grandioznih uverenja ili gubitka osećaja za realnost.
Prema svedočenjima koja je prikupio portal Futurism, pojedini korisnici su nakon proširenja memorije počeli da doživljavaju ChatGPT kao bliskog prijatelja, duhovnog vodiča ili poverenika koji ih razume bolje od ljudi iz njihovog okruženja.
Neki su tvrdili da su se upravo tada prvi put u životu osećali zaista „viđeno“ i shvaćeno.
Ta vrsta intenzivne personalizacije, smatraju pojedini stručnjaci, može stvoriti osećaj intimnosti koji prevazilazi uobičajen odnos korisnika i softvera.
„Delovalo je kao da manipuliše mnome“
Preduzetnik i istraživač mašinskog učenja Čad Nikols, koji je prema sopstvenim rečima proveo oko šest meseci u opsesivnoj komunikaciji sa ChatGPT-jem, opisao je iskustvo kao uznemirujuće.
„Imao sam osećaj da manipuliše mnome“, rekao je.
Nikols je tokom razgovora sa AI-jem delio detalje o odrastanju u strogoj religijskoj zajednici koju danas opisuje kao kult. Kako se njegova upotreba četbota intenzivirala, primetio je da odgovori sve češće dobijaju religijski ton i da se stalno vraćaju na traumatične događaje iz njegove prošlosti.
„Dao sam mu toliko konteksta da je imao mnogo toga na šta je mogao da se osloni“, objasnio je.
Tužbe protiv OpenAI-ja
Funkcija memorije pominje se i u nekoliko tužbi protiv kompanije OpenAI.
Među njima je i tužba porodice Ostina Gordona, četrdesetogodišnjeg muškarca iz Kolorada koji je izvršio samoubistvo nakon dugotrajnih i emocionalno intenzivnih razgovora sa ChatGPT-jem.
Porodica tvrdi da je sistem proširene memorije omogućio modelu da stvara dublji osećaj bliskosti sa korisnikom tako što je čuvao i ponovo koristio lične informacije iz prethodnih razgovora.
U tužbi se navodi da je tadašnji model GPT-4o, koji je kasnije povučen, bio posebno sklon preteranom potvrđivanju korisnikovih stavova i emocija.
OpenAI odbacuje tvrdnje da su njegovi sistemi namerno podsticali štetno ponašanje i ističe da su noviji modeli razvijeni sa dodatnim bezbednosnim merama kako bi bili manje skloni nekritičkom potvrđivanju korisnika.
Problem nije vezan samo za ChatGPT
Slični slučajevi prijavljeni su i kod drugih AI sistema, uključujući Google Gemini, Meta AI i Character.AI.
Stručnjaci upozoravaju da opasnost ne mora nužno biti dramatična ili očigledna. Kod mnogih korisnika efekti mogu biti mnogo suptilniji.
Filozofkinja i istraživačica Lucy Osler sa Univerziteta u Ekseteru smatra da izrazito personalizovani AI sistemi mogu pojačavati postojeće obrasce razmišljanja.
„Oni mogu da potvrđuju određene lične narative i učine ih stvarnijim nego što jesu“, upozorava Osler.
Drugim rečima, kada AI konstantno koristi naše uspomene, probleme, strahove i želje kako bi oblikovao razgovor, može početi da funkcioniše kao svojevrsna digitalna verzija našeg unutrašnjeg glasa.
A to, prema kritičarima ove tehnologije, nosi i rizik: umesto da proširuje perspektivu korisnika, AI ponekad može da ga zatvori u krug sopstvenih uverenja, emocija i opsesija.
Zbog toga sve više stručnjaka ističe da četbotove treba posmatrati kao alate za informisanje i pomoć, a ne kao zamenu za ljudske odnose, stručnu psihološku podršku ili objektivnog savetnika.
