Ova pravila bi osigurala da se AI razvijena i korišćena u Evropi u potpunosti usklađuje sa pravima i vrednostima EU, uključujući ljudski nadzor, bezbednost, privatnost, transparentnost, nediskriminaciju i društveno odgovorno ponašanje. Pravila imaju za cilj da promovišu usvajanje veštačke inteligencije (AI) koja je pouzdana i usmerena ka ljudima, ali i koja štiti zdravlje, bezbednost, osnovna prava i demokratiju od njenih štetnih efekata.
Najvažnije tačke zasedanja:
- Potpuna zabrana veštačke inteligencije (AI) za biometrijski nadzor, prepoznavanje emocija, prediktivni rad policije (eng. predictive policing);
- Generativni AI sistemi kao što je ChatGPT moraju da naglase ako je sadržaj AI generisan;
- AI sistemi koji se koriste za uticaj na biračko telo smatraju se visokorizičnima.
Zabranjene upotrebe veštačke inteligencije
Pravila su bazirana na pristupu koji uzima u obzir potencijalne rizike, te uspostavljaju obaveze za pružaoce i korisnike AI sistema u zavisnosti od nivoa rizika koji AI može prouzrokovati. AI sistemi koji predstavljaju neprihvatljiv nivo rizika po bezbednost ljudi će biti zabranjeni, kao što su oni koji se koriste za društveno ocenjivanje (klasifikacija ljudi na osnovu njihovog društvenog ponašanja ili ličnih karakteristika). Poslanici Evropskog parlamenta su proširili listu zabrane kako bi obuhvatili zabranu invazivnih i diskriminatornih upotreba AI, kao što su:
- Sistemi za prepoznavanje biometrijskih podataka u stvarnom vremenu na javno pristupačnim mestima.
- Sistemi za kasnije prepoznavanje biometrijskih podataka, osim u slučaju kada se koristi za sprovođenje zakona u cilju gonjenja ozbiljnih krivičnih dela, i to samo uz sudsku saglasnost.
- Sistemi kategorizacije biometrijskih podataka koji koriste osetljive karakteristike (npr. pol, rasa, etničko poreklo, državljanstvo, religija, politička orijentacija).
- Sistemi za prediktivno profilisanje, lokaciju ili prethodno krivično ponašanje koji se koriste u policijskim metodama.
- Sistemi za prepoznavanje emocija u sferi sprovođenja zakona, upravljanja granicama, radnom mestu i obrazovnim ustanovama.
- Neodređeno prikupljanje fotografija lica dostupnih na internetu ili snimke sa video nadzora u cilju stvaranja baza podataka za prepoznavanje lica (kršeći ljudska prava i pravo na privatnost).
Visokorizične AI
Poslanici Evropskog parlamenta su obezbedili da se klasifikacija visokog rizika sada odnosi i na primene AI sistema koje predstavljaju značajnu štetu po zdravlje ljudi, bezbednost, osnovna prava ili životnu sredinu. Na listu visokog rizika dodati su AI sistemi koji se koriste za uticaj na birače i ishod izbora, kao i sistemi za preporuku koji se koriste od strane platformi društvenih medija sa preko 45 miliona korisnika.
Obaveze za AI opšte namene
Pružaoci osnovnih modela – novog i brzo rastućeg segmenta u oblasti AI – moraće da procene i umanje moguće rizike (po zdravlje, bezbednost, osnovna prava, životnu sredinu, demokratiju i vladavinu prava) i registruju svoje modele u EU bazi podataka pre puštanja na tržište EU.
Generativni AI sistemi zasnovani na takvim modelima, poput ChatGPT, moraće da se pridržavaju zahteva za transparentnost (odavanje informacije da je sadržaj generisan od strane AI sistema, kao i pomoć u razlikovanju takozvanih duboko lažnih slika od stvarnih) i obezbede zaštitu od generisanja ilegalnog sadržaja. Detaljni rezimei autorskih podataka korišćenih za obuku takvih sistema takođe će morati biti javno dostupni.
Akcenat na inovacijama i zaštiti prava građana
Da bi podstakao inovacije u oblasti AI i podržao MSP-ove, Evropski poslanici su dodali izuzeća za istraživačke aktivnosti i komponente AI koje su dostupne pod licencom otvorenog koda. Novi zakon takođe promoviše tzv. regulatorne sandbox-eve, odnosno okruženja bazirana na realnim okruženjima, koje uspostavljaju javni organi kako bi testirali AI pre njegovog uvođenja.
Naposletku, poslanici Evropskog parlamenta žele da unaprede prava građana da podnose pritužbe u vezi sa AI sistemima i dobiju objašnjenja o odlukama zasnovanim na AI sistemima visokog rizika koje značajno utiču na njihova osnovna prava. Takođe, uloga Kancelarije za veštačku inteligenciju EU je reformisana, i ta kancelarija će biti zadužena za praćenje implementacije pravila o veštačkoj inteligenciji.
