Zajedno s kontinuiranim razvojem veštačke inteligencije, obećanje o autonomnim vozilima kao uobičajenim pojavama na ulicama zaintrigiralo je je maštu mnogih.
Međutim, revolucionarna studija istraživača sa Kraljevskog koledža u Londonu i Pekinškog univerziteta u Kini bacila je senku na ovu tehnološku utopiju. Njihovi nalazi otkrivaju da, kada je reč o identifikaciji pešaka, softver za autonomna vozila pokazuje zabrinjavajuću pristrasnost, favorizujući osobe svetlije kože.
Ovo otkriće proizlazi iz opsežnog testiranja osam AI sistema za detekciju pešaka koje koriste proizvođači samovozećih (autonomnih) automobila.
Rezultati pokazuju zabrinjavajući disparitet od 7,5% u tačnosti kada je u pitanju razlikovanje svetlijih i tamnijih subjekata.
Još više zabrinjava otkriće da je sposobnost softvera da detektuje pojedince sa tamnijim tonovima kože dodatno ugrožena u izazovnim uslovima osvetljenja, kao što su oni na koje se nailazi na slabo osvetljenim putevima.
Deca su takođe u većem riziku
Jie M. Zhang, jedna od istraživača uključenih u studiju, naglasila je da ova pristrasnost nije ograničena na jedan specifičan scenario ili lokaciju. Utvrđeno je da se nepravilna stopa detekcije tamnoputih pešaka značajno povećava sa 7,14% tokom dana na zabrinjavajućih 9,86% noću.
Studija je takođe naglasila izrazitu neusklađenost u performansama softvera u otkrivanju odraslih naspram dece, dokazavši da su odrasli identifikovani 20% većom tačnošću nego deca.
Pol, međutim, utiče na razliku u tačnosti detekcije od svega 1,1%.
U eri AI, koncept pravičnosti je od ogromnog značaja. Kako Zhung navodi: “Trenutna odredba o pravičnosti u ovim sistemima je ograničena, što može imati veliki uticaj ne samo na buduće sisteme, već i direktno na bezbednost pešaka.”
Ona je naglasila da je pravičnost kada AI sistem tretira privilegovane i nedovoljno privilegovane grupe na isti način, što trenutno nije slučaj sa autonomnim vozilima.
Ova pristrasnost, bilo namerna ili nenamerna, već dugo predstavlja problem za AI sisteme, ali implikacije unutar oblasti autonomnih automobila mogu biti posebno ozbiljne.
Pristrasnost koja zahteva hitnu akciju
Istraživački rad pod nazivom “Tamnoputi pojedinci su u većem riziku na ulici: Razotkrivanje problema pravičnosti kod autonomnih sistema vožnje” (eng. Dark-Skin Individuals Are at More Risk on the Street: Unmasking Fairness Issues of Autonomous Driving Systems), objavljen na preprint serveru ArXiv, ne samo da razotkriva kritičan problem, već i poziva na hitnu akciju.
Zhung se zalaže za uspostavljanje smernica i propisa kako bi se osiguralo da se AI podaci sprovode bez pristrasnosti. Ona tvrdi da je saradnja proizvođača automobila i vladinih tela imperativ objektivnog određivanja bezbednosti tih sistema, posebno kada je u pitanju pravičnost.
Izvor: Univerzitet u Kornelu
Kako AI postaje sve integrisaniji u svakodnevni život, od vozila koja koristimo do pridržavanja zakona, pitanje pravičnosti dobija još više na značaju.
Suočeni sa ovim otkrićima, jasno je da rešavanje pristrasnosti u autonomnim vozilima nije samo tehnološki izazov već pitanje javne bezbednosti koje zahteva adekvatno i pravovremeno reagovanje.
