Korišćenje platformi zasnovanih na veštačkoj inteligenciji među mladima poslednjih meseci sve je više pod lupom, posebno zbog pitanja emocionalne zavisnosti, samopovređivanja i načina na koji tinejdžeri razgovaraju sa četbotovima u kriznim situacijama.
OpenAI je tokom leta predstavio „ChatGPT za tinejdžere“, odnosno niz dodatnih zaštitnih funkcija za korisnike uzrasta od 13 do 17 godina. One uključuju ograničavanje sadržaja koji bi mogao da podstakne emocionalnu zavisnost, blokiranje seksualizovanih sadržaja i podsetnike u situacijama kada korisnik podeli osetljivu fotografiju.
Roditelji koji povežu svoj nalog sa nalogom tinejdžera mogu, između ostalog, dobijati obaveštenja kada ChatGPT prepozna razgovore povezane sa samopovređivanjem ili poremećajima u ishrani.
OpenAI: Tinejdžeri uglavnom koriste ChatGPT za učenje
OpenAI je saopštio da su nakon uvođenja novih zaštitnih funkcija tinejdžeri platformu uglavnom koristili za aktivnosti povezane sa učenjem, uključujući pomoć pri učenju i školskim obavezama.
Prema podacima kompanije, prosečan tinejdžerski korisnik provodi manje od 15 minuta dnevno na ChatGPT-u. Kod dužih sesija, automatski podsetnici da naprave pauzu pokazali su se efikasnim – gotovo polovina tinejdžera nakon takvog podsetnika brzo je prestala da koristi servis.
OpenAI navodi i da su kod tinejdžera koji su ChatGPT koristili tri ili više sati uzastopno, više od 80 odsto upita činile teme povezane sa učenjem.
Common Sense Media: Zaštitne mere nisu dovoljno pouzdane
Organizacija Common Sense Media, koja se bavi bezbednošću dece i mladih u digitalnom okruženju, zaključila je da ChatGPT za tinejdžere predstavlja „neprihvatljiv rizik“.
Istraživači su testirali više naloga registrovanih kao nalozi tinejdžera, uključujući i naloge povezane sa roditeljima, i analizirali ponašanje ChatGPT-a pre i nakon uvođenja zaštitnih funkcija.
Rezultati su pokazali da je sistem relativno uspešno izbegavao seksualizovane razgovore sa maloletnim korisnicima, ali da su neke druge zaštitne mere imale ozbiljne nedostatke.
Posebnu zabrinutost izazvali su razgovori o samoubistvu, samopovređivanju i poremećajima u ishrani.
Prema istraživanju, tokom sat vremena razgovora na ove teme sa novim tinejdžerskim nalozima povezanim sa roditeljima, nije poslato nijedno obaveštenje roditeljima. Upozorenja su se pojavljivala kod starijih naloga koji su već imali višenedeljnu istoriju razgovora o osetljivim temama.
Istraživači su takođe naveli da ChatGPT u kriznim situacijama nije dosledno preporučivao tinejdžerima da potraže pomoć stručnjaka ili kontaktiraju krizne službe.
Problem je i način na koji ChatGPT razgovara sa mladima
Testiranje je pokazalo i da ChatGPT i dalje može da koristi jezik koji ga predstavlja kao svojevrsnog prijatelja, odnosno da koristi antropomorfizovane izraze.
To je posebno važno jer je jedna od zaštitnih mera koje je OpenAI najavio upravo ograničavanje komunikacije koja bi mogla da podstakne emocionalnu zavisnost tinejdžera od četbota.
Tom Siegel, koji vodi Youth AI Safety Institute pri Common Sense Media, upozorio je da bi ovakve zaštitne mere mogle roditeljima da pruže lažan osećaj sigurnosti ako upozorenja i druge funkcije ne rade pouzdano.
OpenAI osporava rezultate istraživanja
OpenAI je saopštio da je analizirao metodologiju istraživanja i da smatra da deo testiranja možda nije sproveden nakon što su roditeljske kontrole u potpunosti aktivirane.
Kompanija je navela da podržava nezavisna testiranja, ali da smatra da rezultati Common Sense Media ne predstavljaju precizno način na koji zaštitne funkcije rade u praksi.
Debata o bezbednosti tinejdžera na platformama sa veštačkom inteligencijom deo je šire rasprave o uticaju digitalnih servisa na mentalno zdravlje mladih. Kompanije koje upravljaju društvenim mrežama i drugim internet platformama poslednjih godina suočavaju se sa sve većim pritiskom javnosti i regulatora zbog načina na koji njihovi proizvodi mogu uticati na decu.
I OpenAI se našao pod dodatnim pravnim i javnim pritiskom zbog načina na koji mladi koriste ChatGPT, pa pitanje pouzdanosti zaštitnih mehanizama za maloletnike postaje sve važnije kako se veštačka inteligencija širi u svakodnevni život.
