Tamara Zavišić, osnivačica ETIK.AI, kompanije posvećene etičkom razvoju i usklađivanju AI sistema sa regulativama poput GDPR-a i akta EU o veštačkoj inteligenciji, upozorava da su transparentnost i odgovornost ključni faktori za održivu budućnost veštačke inteligencije.
„Mnoge kompanije nisu sigurne koje obaveze imaju u vezi sa razvojem AI tehnologije, kako da procene rizike ili kako da izgrade poverenje kroz transparentnost i odgovornost. Naša uloga u ETIK.AI je da ih vodimo kroz proces usklađivanja tako da to ne bude prepreka inovacijama, već deo strategije dugoročnog razvoja”, objašnjava Zavišić za WebMind.
Spora birokratija i veštačka inteligencija
EU kroz akt o AI pokušava da definiše stroga pravila i jasne smernice za primenu AI sistema. Međutim, regulativa ne može da isprati ritam razvoja tehnologije.
„Svaka nova verzija ChatGPT-ja dolazi na tržište pre nego što zakonodavci uopšte stignu da analiziraju posledice prethodne. Evropa pokušava da balansira između etičkih standarda i inovacija, ali ako propisi postanu previše rigidni, mogli bi da odbiju investitore i uspore razvoj AI tehnologije na kontinentu”, kaže naša sagovornica.
Dok Evropa postavlja stroga pravila, SAD forsira tržišnu dinamiku, verujući da će konkurencija sama regulisati tržište, dok Kina koristi AI kao alat državne kontrole i nadzora.
Prema njoj, pitanje je da li ćemo imati globalno usklađenu regulativu – što je malo verovatno – ili ćemo završiti sa podeljenim tržištem gde kompanije razvijaju različite AI verzije za različite regione. Verovatniji je drugi scenario.
AI kao crna kutija
Jedan od najvećih izazova u razvoju AI sistema je njihova neprozirnost – odluke se donose putem algoritama koje ni sami kreatori ne mogu u potpunosti da objasne.
„Bez transparentnosti, AI ostaje crna kutija. Ako ne znamo kako donosi odluke, ne možemo ga smatrati odgovornim. To je posebno problematično kod visokorizičnih sistema, poput zapošljavanja, kreditiranja ili zdravstvene zaštite, gde netransparentnost može imati ozbiljne posledice – od diskriminacije do pogrešnih medicinskih odluka” kaže Zavišić.
Akt EU pokušava da reši ovaj problem propisivanjem obaveze dokumentacije, objašnjivosti i ljudskog nadzora, ali ostaje pitanje da li će to biti dovoljno u praksi.
„Transparentnost ne bi smela da bude samo pravna obaveza – ona je ključna za poverenje korisnika i fer poslovanje. Kompanije koje otvoreno komuniciraju na koji način funkcionišu njihovi AI sistemi lakše grade dugoročne odnose sa korisnicima”, kaže ona.
Da li AI može biti etičan?
AI sistemi često nesvesno perpetuiraju pristrasnost i nepravdu, jer se treniraju na podacima koji odražavaju postojeće društvene nejednakosti.
„Etika u AI industriji još uvek nije jasno definisana. EU pokušava da pretoči etičke principe u pravne norme, SAD se oslanja na tržišne mehanizme, dok Kina koristi AI u svrhu političkog nadzora. Suštinsko pitanje je – ko definiše šta znači ‘odgovorna veštačka inteligencija’?“, navodi Zavišić, i naglašava da je ključ u postavljanju jasnih granica odgovornosti pre nego što tehnologija postavi granice nama.
„AI industrija trenutno juri ka sledećoj iteraciji modela bez stvarnog plana šta sa njom. Ako se AI razvija bez odgovornosti, onda ne pričamo o etičkoj tehnologiji, već samo o efikasnijem sistemu za donošenje odluka bez moralnih posledica”, kaže naša sagovornica.
Energetska održivost AI – nevidljiva pretnja
Pored etike i regulative, energetska potrošnja AI industrije postaje ozbiljan problem.
„Jedan AI model može potrošiti i do 1.785 kWh energije po zadatku – koliko prosečno domaćinstvo u SAD potroši za dva meseca. Ako ne postavimo ograničenja na ekološke troškove razvoja, tehnološki napredak može doći na račun dugoročne održivosti”, navodi ona.
Zavišić zaključije da se o ovom aspektu AI razvoja nedovoljno govori, iako je sve očiglednije da će ekološki uticaj AI industrije postati jedna od ključnih tema u budućnosti.
