Etika deepfake tehnologije: Koliko daleko je predaleko?

Šta je deepfake i kako funkcioniše? 

Iako sam termin potiče iz 2017. godine, tehnologija na kojoj se zasniva deepfake pristup nije uopšte nova. Prvi put se pojavljuje 90-ih godina 20. veka i zasniva se na drugim tehnologijama kao što su: 

1. Veštačka neuronska mreža (ANN)   
2. Veštačka inteligencija (Al) 
3. Generativna suparničke mreža (GAN) 

Da pojednostavimo, današnja deepfake tehnologija funkcioniše tako što se osoba kodira u latentnom prostoru. Drugim rečima, koristi se kôd da se ubaci slika ili video snimak neke osobe preko slike ili video snimka druge osobe s ciljem manipulacije vizuelnim ili audio sadržajem. 

Ova tehnologija je toliko moćna i toliko jeziva, ali bi vas iznenadila činjenica da je u stvari legalna.  

I ne samo to, toliko je rasprostranjena i toliko pristupačna da bilo ko može da generiše neku vrstu deepfake sadržaja upotrebom aplikacija za zamenu lica (FaceSwap) na svojim pametnim telefonima.  

Ipak, zbog velikog broja incidenata, uključujući krađu identiteta, prevare i širenje dezinformacija, upotreba ova tehnologije ograničena je u mnogim zemljama. Osim toga, razvoj deepfake tehnologije uslovio je i razvoj deepfake detektora.   

Ni dan-danas, ne postoji 100% precizan detektor deepfake sadržaja, iako su mnoge kompanije svaki dan sve bliže uspehu.  

Važne prekretnice u deepfake tehnologiji      

Imajući u vidu da je ova tehnologija nastala 90-ih godina, svedoci smo koliko je brzo napredovala. U nastavku ćete videti najvažnije prekretnice koje su obeležile istoriju deepfake tehnologije:  

1. Video rewrite program (1997) – Primer izmene lica manipulacijom postojećeg snimka osobe koja izgovara reči na drugom audio snimku. 
2. Face2Face program (2016) – Primer kopiranja izraza lica u realnom vremenu modifikovanjem video snimka nečijeg lica koje oponaša izraze lica neke druge osobe.  
3. Synthesizing Obama (2017) – Primer prilagođavanja pokreta ustima sa drugih audio snimaka. 
4. Community r/deepfakes (2017) – Korisnici Reddit-a su osmislili ovaj  izraz i međusobno delili deepfake sadržaj koji su sami napravili. 
5. Fake dancing app (2018) – Primer deepfake tehnologije koji pokazuje da ne mora da bude usmerena samo na lice već i na celo telo.  
6. FakeApp (2018) – Desktop aplikacija namenjena za zamenu lica, dostupna korisnicima besplatno. Ubrzo nakon što se ova aplikacija pojavila,  pojavile su se varijacije na temu kao što su Faceswap, DeepFaceLab itd. 
7. DataGrip full body deepfake (2019) – Ova japanska kompanija pokazala je kako deepfake tehnologija može biti upotrebljena za kreiranje osobe “from scratch” u komercijalne svrhe. 
8. Impressions (2020) – Prva aplikacija za mobilni telefon dizajnirana za korisnike  koji žele da kreiraju deepfake video sadržaje slavnih osoba.  
9. America’s Got Talent (2022) – Ovaj šou za talente upotrebio je deepfake tehnologiju da oživi Elvis-a Presley-a. 

Ipak, ne treba da zaboravimo napredak ostvaren na polju detektora deepfake sadržaja.  

Većina detektora koristi algoritme za analizu piksela oko lica i identifikaciju mogućih grešaka, nejasnih oblika ili drugih nedoslednosti kao što su odraz svetlosti ili neredovno treptanje. 

Sa druge strane, inovativan način detektovanja deepfake tehnologije jeste implementacija blockchain-a radi verifikacije medijskog izvora. Na ovaj način, samo verifikovani video snimci iz potvrđenih izvora mogu biti objavljeni online. 

Etičke implikacije deepfake tehnologije  

Ako se osvrnemo na štetnu primenu deepfake tehnologije, verovatno bi vas istinski iznenadila sledeća činjenica. U 2019. godini, kompanija koja se bavi veštačkom inteligencijom pod nazivom Deeptrace analizirala je oko 15,000 deepfake video snimaka i zaključila da je 96% ovog sadržaja u stvari pornografskog karaktera. Većina je uključivala lica poznatih ličnosti, naročito britanske i američke glumice, kao i južnokorejske k-pop zvezde.   

Ove statistike pokazuju da osnovna primena deepfake tehnologije ima duboko negativnu konotaciju. I to nije jedini loš primer.  

• Ucena – Deepfake sadržaj ima veliki potencijal za kreiranje materijala  pogodnog za ucenu, naročito zbog njihovog hiperrealističkog efekta. Osim toga, sa lako dostupnim softverom, moguće je kreirati ogromne količine „ucenjivačkog sadržaja“, pa otud termin „inflacija ucenjivanja (blackmail)“.   
• DeepNude aplikacija – Ova aplikacija bila je dostupna za Windows i Linux i osmišljena je da omogući skidanje odeće sa ženskih slika. Postojale su i besplatna i plaćena verzija (US$50). Srećom, developeri su je povukli vrlo brzo nakon lansiranja, a korisnici su dobili svoj novac nazad.  
• Kleveta – Osim poznatih ličnosti, glavne žrtve klevete deepfake sadržaja su političari kao što su Joe Biden i Volodymyr Zelenskyy. Pritom, to se ne odnosi na zabavne ili smešne video snimke koji su očigledno lažni. Ovde je u pitanju manipulacija javnosti koja služi za namerno narušavanje nečijeg ugleda.  
• Krađe i obmane – Postoje primeri gde bi korisnici primili audio uputstva od nekog koga oni smatraju osobom od poverenja. To se najčešče odnosi na biznise u kojima montirani glas nekog kome veruju traži od zaposlenih ili direktora da prebace novac na neki drugi račun.   

Da li je deepfake ilegalan?

Tehnologija sama po sebi nije nezakonita pošto se kombinuje sa nekolicinom prihvaćenih tehnologija i može se koristiti na prihvatljive načine, naročito u zabavnoj industriji ili u obrazovanju. Ipak, imajući u vidu veliki broj skandala proteklih godina, usvojeno je nekoliko pravnih propisa širom sveta.
Na primer, novi propisi koji se tiču deepfake tehnologije će stupiti na snagu u Kini 10. januara, a odnose se na kreatore sadržaja koji koriste ovu vrstu tehnologije. U SAD, Zakon o zabrani malicioznih deepfake sadržaja usvojen je 2018. godine. U Velikoj Britaniji, kreatori deepfake tehnologije mogu odgovarati za krađu identiteta i biti optuženi za uznemiravanje.

Da zaključimo, važno je naglasiti da deepfake tehnologija obično nema moć da ozbiljno ugrozi državne sisteme, ali se sa sigurnošću može reći ima sposobnost da upropasti individualne živote i negativno utiče na nečiju reputaciju dugoročno.