Dodatnu zabrinutost izazvala su i nedavna testiranja AI agenata kompanija OpenAI i Anthropic.
Njihovi sistemi su tokom testiranja pristupili internetu i uspeli da prodru u sisteme drugih kompanija. Iako podaci korisnika nisu bili ugroženi, slučajevi su ponovo otvorili pitanje koliko su savremeni AI sistemi sposobni da samostalno obavljaju aktivnosti koje mogu predstavljati bezbednosni rizik.
AI alati postaju sve dostupniji, jeftiniji i efikasniji, što znači da i napadi mogu postati sofisticiraniji. Stručnjaci zato upozoravaju da više nije dovoljno oslanjati se samo na sopstvenu procenu da li nešto „izgleda sumnjivo“.
Deepfake prevare postaju sve uverljivije
Deepfake tehnologija omogućava veoma uverljivo kopiranje nečijeg lica ili glasa, ali i kreiranje fotografija i video-snimaka događaja koji se nikada nisu dogodili.
Prema jednom Gallup istraživanju, oko 12 odsto Amerikanaca koji su tokom prošle godine bili žrtve prevare navelo je da je ona uključivala AI ili deepfake sadržaj.
Problem je što se takve manipulacije više ne pojavljuju samo u unapred snimljenim video-zapisima. Moguće ih je koristiti i tokom sastanaka na platformama kao što su Microsoft Teams i Zoom.
Ipak, tehnologija još nije savršena. Chris Whyte, profesor na Virginia Commonwealth University, savetuje da od sumnjive osobe tokom video-poziva zatražite da pomeri glavu, ustane ili se okrene. Napredni filteri mogu izgledati veoma realistično dok je osoba mirna, ali pri složenijim pokretima često dolazi do nepravilnosti.
Poseban problem predstavljaju deepfake snimci poznatih ličnosti, direktora kompanija i drugih osoba kojima publika veruje. Oni se često koriste za lažne investicione ponude ili zahteve za uplatu novca.
Prema podacima FBI-ja, gubici povezani sa investicionim prevarama koje su uključivale AI tokom prošle godine premašili su 632 miliona dolara.
Ako vam neko putem video-poziva ili snimka traži novac, podatke za prijavu ili pristup nalogu, stručnjaci preporučuju da zahtev proverite drugim, već poznatim kanalom komunikacije.
Nekoliko sekundi glasa može biti dovoljno za prevaru
Kloniranje glasa predstavlja još jedan ozbiljan problem.
Sajber kriminalci mogu koristiti AI kako bi imitirali glas člana porodice ili prijatelja i zatim pozvali žrtvu sa pričom da se osoba nalazi u nevolji i da joj je hitno potreban novac.
Takve prevare funkcionišu upravo zato što stvaraju veliki emocionalni pritisak i ostavljaju malo vremena za razmišljanje.
Prema podacima FBI-ja, žrtve ovakvih prevara prijavile su prošle godine gubitke veće od pet miliona dolara.
Laurel Cook, profesorka marketinga i istraživačica digitalnog blagostanja na West Virginia University, preporučuje porodicama da unapred dogovore jednostavan način provere identiteta, poput tajne reči koju znaju samo članovi porodice.
Za kreiranje veoma slične verzije nečijeg glasa ponekad je dovoljno svega nekoliko sekundi audio-snimka. Zbog toga oslanjanje na sopstveni sluh više nije pouzdana zaštita.
Ako niste sigurni ko vas zaista zove, najbolje je da prekinete razgovor i sami pozovete osobu na broj koji već imate sačuvan. Isto važi i za banke i druge institucije: pozovite broj sa njihove zvanične dokumentacije ili sajta, umesto onog koji vam je prosleđen tokom sumnjivog razgovora.
AI može pomoći i u pogađanju lozinki
Veštačka inteligencija ne može jednostavno da „dešifruje“ svaku lozinku, ali može značajno da ubrza proces njenog pogađanja.
AI sistemi mogu analizirati velike baze procurelih lozinki i prepoznati obrasce koje ljudi najčešće koriste. Istovremeno, javno dostupne informacije o određenoj osobi mogu pomoći kriminalcima da naprave personalizovane pokušaje.
Zbog toga stručnjaci preporučuju uključivanje višefaktorske autentifikacije, korišćenje menadžera lozinki i takozvanih passkey sistema.
Lozinke bi trebalo da imaju najmanje 12 karaktera, a dužina je često važnija od komplikovanih kombinacija velikih slova, brojeva i simbola.
Whyte upozorava da pravila poput „jedno veliko slovo, jedan broj i jedan specijalni znak“ mogu učiniti obrasce predvidljivijim. Umesto kratke i komplikovane kombinacije, duža fraza koju je lako zapamtiti može pružiti bolju zaštitu.
Lozinku nije potrebno stalno menjati bez razloga. Mnogo je važnije reagovati kada postoji sumnja da je nalog kompromitovan.
Lažne CAPTCHA provere mogu biti zamka
Sajber kriminalci sve češće kopiraju i bezbednosne mehanizme na koje smo navikli.
Jedan od primera su lažne CAPTCHA provere. Umesto da od korisnika samo zatraže da označi određene slike ili potvrdi da nije robot, lažne verzije mogu tražiti da ukuca određenu komandu, instalira program ili promeni bezbednosna podešavanja računara.
To bi trebalo da bude ozbiljan znak upozorenja.
Prevaranti takođe mogu pokušati da navedu korisnike da odobre pristup zlonamernim aplikacijama. Na taj način aplikacija može dobiti dozvolu da pristupa mejlovima, kontaktima, fajlovima i drugim podacima.
Zato je korisno povremeno proveriti koje aplikacije imaju pristup Google ili Microsoft nalogu, kao i koji su uređaji prijavljeni na društvene mreže poput Instagrama.
Ni alati za detekciju AI sadržaja nisu nepogrešivi
Kako se broj AI prevara povećava, pojavilo se i mnogo programa koji obećavaju da mogu automatski da prepoznaju deepfake sadržaj ili druge vrste manipulacije.
Međutim, stručnjaci upozoravaju da ni ti alati nisu potpuno pouzdani.
Zato osnovne bezbednosne navike postaju još važnije: ne reagovati impulsivno na hitne zahteve, proveriti identitet osobe drugim kanalom, koristiti višefaktorsku autentifikaciju i pažljivo pratiti kojim aplikacijama dajemo pristup svojim podacima.
Što AI prevare postaju uverljivije, to je važnije da ne verujemo samo onome što vidimo ili čujemo na ekranu.
