„Teže je primetiti kada prava krši algoritam nego fizičko ili pravno lice“
Do danas, ne postoji jedinstveni globalni okvir za regulisanje veštačke inteligencije, a pristup regulisanju se veoma razlikuje između pojedinačnih zemalja. Neke od njih su usvojile posebne zakone i propise u vezi sa AI, dok su druge u postojeće zakone unele odredbe o AI ili su usvojile smernice ili principe za upravljanje njenom upotrebom.
Ideje o regulisanju veštačke inteligencije, kao i o nadziranju i promovisanju njene etičke upotrebe u vreme sve veće političke polarizacije i ekonomske nejednakosti, podelila je poverenica za zaštitu ravnopravnosti Republike Srbije Brankica Janković.
„Smatram da su efekti automatizacije i veštačke inteligencije mnogo značajniji za društvo i mnogo veći nego što se o tome govori u javnom diskursu. Njena primena znamo da nosi velike rizike, ali i potencijale. Kršenja prava od strane algoritama se mnogo teže primećuju nego kada je diskriminator pravno ili fizičko lice i često nismo ni svesni da je došlo do neke vrste nejednakog postupanja i povrede prava“, kaže poverenica i dodaje da, šta god mislili o AI, niko ne može zaustaviti rapidan razvoj nauke i tehnologije, već se samo može govoriti o tome kako da ona bude u službi opšteg dobra.
Kako primećuje, jedan od najuočljivijih i najznačajnijih efekata veštačke inteligencije vidljiv je na primeru tržišta rada.
„Nakon što je proces automatizacije već pogodio niže kvalifikovanu radnu snagu, prelazi na radnike sa srednjim nivoima kvalifikacije. Procena je da će oko 70% radnih mesta u Evropi biti zamenjeno AI ili nekom drugom inovacionom tehnologijom. Prema Svetskom ekonomskom forumu, automatizacija i upotreba sistema AI treba da stvori 133 miliona novih radnih mesta do 2022, a 75 miliona bi trebalo da nestane. To znači da, ako je to tačno, AI je stvorila 58 miliona novih radnih mesta, više nego što ih je zamenila“, navela je Janković na panelu pod nazivom „Nadzor i etika u upotrebi veštačke inteligencije“.
„Ministarstvo tvrdi da algoritam ne postoji“
Vlada Srbije je u decembru 2022. godine izdala Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije. Koliko se ona pridržava sopstvenih smernica objasnio je Danilo Ćurčić iz Inicijative za ekonomska i socijalna prava A11, na primeru sprovođenja Zakona o socijalnoj karti.
„Vlada Srbije se nije pridržavala standarda koji su navedeni u Etičkim smernicama, ili standarda koji su navedeni u Zakonu o zaštiti podataka o ličnosti kada je donosila Zakon o socijalnoj karti, odnosno nije odgovorila ni na jedan od uslova niti osnovnih načela koji su navedeni u Etičkim smernicama. Odlučivanje u sistemu nije transparentno, ne znamo koji su odlučujući podaci koji socijalnim radnicima izdaju notifikaciju sa instrukcijama, niti su rešenja koja smo do sada imali prilike da vidimo pravična“, ističe Ćurčić.
Screenshot: YouTube/Partneri Srbija
On je pomenuo apsurdnu situaciju koja se tiče transparentnosti a sa kojom se njegov tim susreo u komunikaciji sa Ministarstvom za rad, zapošljavanje, boračka i socijalna pitanja:
„Mi već godinu dana pokušavamo da saznamo kakav je algoritam koji odlučuje o ostvarivanju prava i usluga iz socijalne zaštite. Sada nam Ministarstvo kaže da algoritam ni ne postoji. Socijalna karta, dakle, sama od sebe funkcioniše, bez logike odlučivanja. Međutim, pojavila se neka vrsta koalicije između socijalnih radnika i organizacija koje pružaju pravnu pomoć. Socijalni radnici, zbog toga što su prinuđeni da postupaju po notifikaciji, a znaju okolnosti korisnika s kojima rade i znaju da ispunjavaju uslove za socijalnu pomoć, kada ih odbiju, korisnike upućuju na organizacije civilnog društva koje im pružaju pravnu pomoć“, objašnjava pravnik.
„Hoćete li bezbednost ili privatnost, slobodu govora i okupljanja?“
Kako navodi nacionalna pravna savetnica u Misiji OEBS-a u Srbiji, Sanja Stanković, države širom sveta bi trebalo da uče na sopstvenim greškama, te da detaljno testiraju i provere podatke pre nego što AI algoritme puste u upotrebu u oblastima koja se tiču ljudskih prava i koja direktno utiču na nečiji život.
„Kad su u pitanju podaci koji se masovno prikupljaju putem sistema koji su zasnovani na mašinskom učenju i veštačkoj inteligenciji, i uopšte kako zaštiti prava građana i aktivista od zloupotreba, to je velika debata planetarno, pošto su rizici veliki. Stalno se stavljamo pred tu, donekle i lažnu, dilemu: hoćete li bezbednost ili hoćete privatnost, slobodu govora, slobodu okupljanja, misli, jer ta dva ne mogu da idu zajedno. Jeste izazovno postići taj balans, ali to ne može sve da uradi mašina, na kraju uvek dolazite do čoveka koji može da proceni kontekstualno situaciju“, smatra panelistkinja.
Screenshot: YouTube/Partneri Srbija
Prema njenom mišljenju, neophodno je da svi koji imaju pristup podacima građana budu obrazovani, senzitivni, i u digitalnom smislu, ali i u kontekstu zaštite ljudskih prava.
„Biznis model platformi je zasnovan na praćenju, generisanju ogromne količine korisničkih podataka, uz do sada nezamislive mogućnosti obrade, i od samih platformi, do takozvanih data-mining kompanija koje odlično zarađuju. Za razliku od državnog postupanja sa podacima, koje je ipak uređeno i kontrolisano, privatni sektor je maltene potpuno neuređen i nekontrolisan. Državama nije zabranjeno da kupe podatke od brokerskih kompanija“, naglašava ona.
„Neverovatno je da pustite u rad sistem koji niste proverili“
Pored toga, Sanja Stanković predstavila je i konkretne preporuke za ulogu koju bi civilno društvo, nezavisni mediji, kao i akademska i međunarodna zajednica mogli da odigraju u nadzoru i etičkom raspoređivanju AI od strane vlada.
- Države treba da se suzdrže od proizvoljnog pristupanja masovnim podacima kod privatnih aktera, bez obzira na to koliko to može biti jednostavno i nekada privlačno.
- Neophodno je primenjivati sva prava koja se štite i offline kada država želi da pristupi podacima građana.
- Preporučuje se zabrana opšteg prenosa podataka koji postoji kod neke platforme ili operatora državnim organima.
- Predlaže se da, kada su u pitanju organi sprovođenja zakona, oni prikupljaju podatke s obzirom na konkretnu situaciju i konkretne sumnje.
- Jedna od važnijih preporuka je i da se države suzdrže od uvođenja sistema za masovno nadgledanje i masovnu biometrijsku obradu podataka, jer to može imati ozbiljne posledice po čitav niz ljudskih prava.
- Kada su u pitanju meta podaci, odnosno ko je komunicirao, kada i sa kim, njih drže platforme i operatori elektronskih komunikacija i taj sistem mora imati najviši nivo zaštite.
- Preporuka je i da se svako nezakonito praćenje kriminalizuje u zakonodavnim sistemima država članica, a da se dokazi koji su na taj način pribavljeni ne mogu koristiti u daljem postupku.
Screenshot: YouTube/Partneri Srbija
Panelisti upozoravaju da se posledice grešaka i nepažnje pri uvođenju novih tehnologija najpre osete u delu populacije koji je najugroženiji i najsiromašniji.
„Reč je o ljudima koji nemaju prostor da dovoljno glasno mogu da se suprotstave. Dok, ako bi se ukinulo neko pravo opštoj populaciji, nastao bi veliki problem. Ovde se dešava jedan proces koji je suštinski ispod radara i sve te povrede prava koje pokušavamo da sistematizujemo se dešavaju svakodnevno i o tome se ništa ne zna. Moramo doći do odgovornosti za sve to što se dogodilo, jer je potpuno neverovatno da pustite takav sistem u rad i da niste proverili kako će on delovati i još se hvalite rezultatima koji su vrlo upitni“, poručio je Danilo Ćurčić iz A11.
