„Mi smo u potpunosti protiv sistema za nadzor, bez izuzetaka“
Nedelja privatnosti je godišnji događaj koji se održava tokom poslednje nedelje januara u Beogradu, povodom obeležavanja Dana zaštite podataka o ličnosti, 28. januara. Događaj se fokusira na diskusije o pitanjima privatnosti i zaštite podataka sa stručnjacima iz civilnog, privatnog i javnog sektora.
Proteklu godinu obeležila je velika polemika oko biometrijskog nadzora, odnosno masovnog video nadzora i korišćenja sistema za prepoznavanje lica. Rame uz rame s tom temom ide i aktuelni Zakon o veštačkoj inteligenciji za prostor Evropske unije i o njegovim mogućim rešenjima za korišćenje biometrijskog nadzora u EU, čije se usvajanje očekuje krajem proleća 2023. podine.
Prema mišljenju analitičarke za javne politike EU Caterina Rodelli, ovaj zakon nesumnjivo promoviše veštačku inteligenciju, no ne štiti osnovna ljudska prava.
„Kao civilno društvo, mi smo pažljivo pročitali AI Act i želeli smo da čujemo od Evropske komisije koja je svrha ovog propisa. Postoje neki pozitivni elementi, ali način na koji su oni dizajnirani je problematičan i diskrimantoran. Sistemi koji su ugrađeni u kamere za video nadzor mogu da skeniraju više ljudi u isto vreme i analiziraju njihovo kretanje i ponašanje. EU je odlučila da zabrani neke od njih, uz naglasak da će postojati neki izuzeci. Smatramo da je to veoma problematično“, upozorava ona.
Screenshot: Partneri Srbija (Youtube)
Kako objašnjava, donosioci odluka moći će da interpretiraju te “izuzetke” onako kako se njima prohte, uz opravdanje da je reč o bezbednosnom riziku.
„To znači da će donosioci odluka imati moć da, na osnovu tih snimaka, odluče ko je osumnjičeni i ko je kriminalac. U nekim zemljama, na taj način procesuiraju i klimatske aktiviste ili migrante. Iz tog razloga, mi zagovaramo banovanje sistema za masovni nadzor, u potpunosti, bez izuzetaka“, jasna je Caterina.
„Nemamo šta da krijemo, ali imamo puno toga da zaštitimo“
I dok evropske organizacije civilnog društva i grupe za zaštitu ljudskih prava upozoravaju na negativne efekte upotrebe biometrijskog nadzora na ljudska prava (od privatnosti, do slobode okupljanja i slobode izražavanja), regulatori iz EU aktivno rade na usvajanju jedinstvenih pravila koja bi mogla da obezbede veću pravnu sigurnost za građane, kao i jasne i sprovodljive standarde za države članice. A to se pokazalo kao priličan izazov, navodi Ella Jakubowska, savetnica za politike u oblasti osnovnih prava u digitalnom dobu, European Digital Rights (EDRi).
„Sistem za prepoznavanje lica, iako se tako zove, ne koristi se samo u te svrhe, već može da skenira i neke druge karakteristike, kao što su način hoda, kako sedite u stolici i kako se vaša težina raspoređuje, kako trepćete, i tako dalje. Jedno je ako vi koristite svoje lice da otključate svoj telefon, jer je to stvar izbora. Ali, ovde govorimo o tome da ljudi nemaju izbora hoće li biti snimani ili ne, to postaje masovan nadzor“, objašnjava Ella.
Ona navodi primer kupovine u supermarketu, odnosno da će građani, ukoliko žele da koriste njihove usluge, morati da pristanu da budu snimani, skenirani i analizirani na javnom mestu. I ne samo to, već se ti podaci koriste u svrhe oglašavanja, odnosno građanima se preporučuje određena vrsta oglasa u zavisnosti od toga šta su kamere u supermarketima prikupile o njima.
„Ekstreman primer za to je jedna španska kompanija koja grupiše te podatke i na osnovu rase. Ne postoji način da se to opravda, jer ne možete na osnovu rase zaključiti da li je neko sumnjiv ili bezbednosni rizik, to je jako zlokobno i opasno. Još jedan primer jesu ljudi koji pristupaju zdravstvenoj zaštiti. U nekim zemljama, postoje konzervativne politike u vezi s reproduktivnim pravima i abortusom i, kad znate da vas neko prati kad hoćete da pristupite toj vrsti usluge, to može da bude gušenje vaših prava. Ne želimo da naša javna mesta postanu mesta gde više niko od nas ne može biti anoniman. Političari često kažu da, ako nemate šta da krijete, zašto bi vas bilo briga, a u stvari postoji mnogo toga što treba zaštiti, ako razmišljate o samom osnovu demokratije“, podseća panelistkinja.
„Masovni nadzor je unosni biznis, gde su građani roba“
Kada se govori o važnosti obezbeđivanja adekvatnog nadzora i javne kontrole nad obradom ličnih podataka od strane državnih i privatnih aktera, posebno u društvima koja se suočavaju sa nedovoljno razvijenom vladavinom prava, donosioci odluka se uvek pozivaju na isti argument – da je to neophodno iz bezbednosnih razloga.
Međutim, analiza situacije u Rumuniji koju je sprovela NVO ApTi pokazala je velike nepravilnosti na tenderima za nabavku opreme i potvrdila sumnju da se ne radi nužno o bezbednosti građana.
„U Rumuniji jedinice lokalne samouprave potpisuju ugovore sa domaćim firmama, pa je tako jedna mala opština u okolini Bukurešta potrošila 200,000 eura u tri ugovora, a prema uvidu u javnu nabavku, dobile su 22 kamere po 1,000 stanovnika u toj opštini. Zašto bi to radili? Zašto bi ulagali novac u to? Ne postoje li važnije stvari, kao što su škole i bolnice? Reč je o u unosnom biznisu, i za privatni i javni sektor, a mi smo u tom slučaju roba. Dakle, za biznis je jeftino, za političare je dobro, a ta povezanost je najčešće korupcija. Kad pogledate podatke, kompanije koje dobijaju ugovore jesu one koje su povezane sa vladajućim strankama. Kakvo iznenađenje, zar ne? Možemo li im verovati da se oni zaista brinu za bezbednost građana?“, pita se Bogdan Manolea, izvršni direktor ApTi.
Screenshot: Partneri Srbija (Youtube)
Prema njegovim rečima, svi ovi primeri čine da se osećamo neprijatno, što je dobra stvar, jer ćemo onda postati svesni opasnosti.
„Ako postoji infrastruktura koja prikuplja video podatke građana na dnevnom nivou i ako se građani naviknu na to, onda bi naredni korak za dodavanje facial recognition ili emotional recognition predstavljao samo malu promenu koju većina neće razumeti. Ljudi uočavaju problem tek kad je prekasno, kad dođe do zloupotrebe. Teško im je da shvate kako jedna mala kamera može uticati na njihova prava“, primećuje panelista.
„Zakon treba da štiti prava svih, a ne samo EU državljana“
Opasnosti biometrijske identifikacije su još veće za one koji nisu državljani EU, ili drugih država u Evropi. Kako navodi Caterina Rodelli, uveliko se koriste institucionalizovani oblici masovnog biometrijskog nadzora i upotrebe sistema zasnovanih na AI koji ovekovečuju diskriminaciju i ugnjetavanje migranata i marginalizovanih zajednica.
„Mi mnogo pratimo na koji način ovaj zakon utiče na prava migranata. Napravili smo analizu kako on treba da se prilagodi da bi se zaštitila prava svih, a ne samo evropskih državljana. Političari nisu baš veliki fanovi toga, iz različitih razloga. To je ustaljena praksa – napravi se problem, okarakteriše se kao bezbednosna pretnja, migranti su sumnjivi, hoće da eksploatišu sistem, pomoć koja im se upućuje… I onda imate povod da napravite sisteme i poligrafe koji detektuju da li ljudi lažu kada, na primer, objašnjavaju motiv za dobijanje azila. To su neke od vrlo zabrinjavajućih upotreba protiv kojih se borimo i koje se uveliko događaju, a ljudi o tome jako malo znaju“, objašnjava Rodelli.
Screenshot: Partneri Srbija (Youtube)
Štaviše, ona upozorava da, u zemljama u kojima postoji masovni nadzor, dolazi do grešaka u sistemu koje mogu ostaviti velike posledice na pojedinačne živote ljudi.
„Nema okolnosti u kojima ti sistemi mogu biti korisni. Vidimo puno opasnosti, da vas neko prati, da vas greškom uhapsi, jer se postavlja i pitanje tačnosti kada radite sa tako ogromnom bazom podataka. Velika je mogućnost da se napravi greška i bilo je već takvih primera da su ljudi hapšeni na osnovu netačnih prepoznavanja. Takođe, novinarski izvori mogu na taj način da budu otkriveni i kompromitovani, zatim demonstranti koji su u javnom prostoru, ali i bilo ko drugi. Činjenica je da ste vi vlasnik svog tela i hoćemo da zadržimo pravo nad svojim telom i svojim licem, zato zagovaramo zabranu korišćenja ovih sistema“, zaključuje panelistkinja.
Partneri Srbija su organizacija civilnog društva, posvećena unapređenju vladavine prava, razvoju građanskog društva i institucionalnoj izgradnji u Srbiji i regionu, uz jačanje lokalnih kapaciteta i korišćenje znanja domaćih eksperata. Više od 10 godina aktivno se bave temom zaštite privatnosti građana kroz edukacije, kampanje, zagovaranje za unapređenje i primenu zakona, pokretanja postupaka za zaštitu prava i pružanje pravnih saveta i pomoći građanima, privredi i državnim organima.
