Jedan od najvećih bezbednosnih izazova o kojem se poslednjih meseci sve više govori jeste AI poisoning (trovanje veštačke inteligencije) – napad kojim se model namerno „hrani“ pogrešnim ili zlonamernim podacima kako bi donosio netačne ili štetne zaključke.
Stručnjaci upozoravaju da bi upravo ova vrsta napada mogla postati jedan od najvećih problema u eri generativne veštačke inteligencije.
Šta je AI poisoning?
Najjednostavnije rečeno, AI poisoning je pokušaj da se model veštačke inteligencije “pokvari” kroz podatke koje koristi za učenje ili ažuriranje.
Za razliku od klasičnog hakovanja, gde napadač pokušava da probije sistem, ovde je cilj da sistem sam nauči pogrešne obrasce.
Ako je model obučen na kompromitovanim podacima, njegove odluke mogu postati nepouzdane, pristrasne ili potpuno pogrešne.
Kako izgleda u praksi?
Postoji nekoliko najčešćih oblika AI poisoning-a.
1. Trovanje podataka za obuku (Data Poisoning)
Napadač ubacuje lažne ili izmenjene podatke u skup podataka na kojem se AI trenira.
Na primer, sistem koji prepoznaje saobraćajne znakove mogao bi biti “naučen” da znak STOP prepoznaje kao ograničenje brzine.
Kod velikih jezičkih modela cilj može biti da AI počne da daje netačne informacije o određenoj kompaniji, proizvodu ili javnoj ličnosti.
2. Manipulacija informacijama na internetu
Kako sve više AI sistema koristi javno dostupan sadržaj sa interneta, pojedini stručnjaci upozoravaju da bi internet mogao postati novo bojno polje.
Ako bi hiljade sajtova namerno objavljivale iste netačne informacije, postoji rizik da ih budući AI modeli prihvate kao činjenice.
Zbog toga se sve više govori o takozvanom LLM poisoning-u, odnosno pokušajima da se manipuliše znanjem velikih jezičkih modela.
3. Backdoor napadi
Posebno opasan oblik AI poisoning-a jeste ubacivanje skrivenog “okidača”.
Model radi potpuno normalno dok se ne pojavi određeni znak, fraza ili slika, nakon čega počinje da daje potpuno drugačije rezultate.
Takvi napadi posebno zabrinjavaju sektore poput zdravstva, finansija i autonomnih vozila.
Zašto je ovo postalo velika tema baš sada?
Do pre nekoliko godina AI modeli trenirani su uglavnom na pažljivo odabranim skupovima podataka.
Danas sve više kompanija razvija modele koji se oslanjaju na ogromne količine sadržaja sa interneta ili se kontinuirano ažuriraju novim informacijama.
To znači da raste i broj potencijalnih tačaka kroz koje neko može pokušati da utiče na njihovo ponašanje.
Upravo zbog toga organizacije poput OWASP-a (Open Worldwide Application Security Project) uvrstile su training data poisoning među najvažnije bezbednosne rizike za sisteme zasnovane na velikim jezičkim modelima.
Da li se AI poisoning već dešava?
Da. Akademski istraživači već godinama uspešno demonstriraju ovakve napade u kontrolisanim uslovima. U praksi su pokazali da je moguće: promeniti način na koji AI klasifikuje slike, navesti modele da favorizuju određene odgovore, ubaciti skrivene “backdoor” komande, smanjiti tačnost modela bez vidljivih promena u radu sistema.
Velike AI kompanije poput OpenAI-ja, Google DeepMinda, Microsofta i Anthropic-a zato ulažu značajne resurse u zaštitu trening podataka i razvoj tehnika koje mogu otkriti manipulacije pre nego što model bude pušten u upotrebu.
Kako se kompanije brane?
Odbrana od AI poisoning-a postaje poseban deo sajber bezbednosti. Najčešće mere uključuju: proveru porekla podataka, automatsko otkrivanje anomalija, filtriranje sumnjivih izvora, redovno testiranje modela na pokušaje manipulacije, korišćenje više nezavisnih izvora podataka za obuku.
Sve češće se koriste i posebni AI sistemi čiji je zadatak da nadgledaju druge AI modele i upozore kada primete neuobičajeno ponašanje.
Novi front sajber bezbednosti
Ako su prethodnih godina hakeri pokušavali da ukradu podatke ili zaključaju računare ransomware napadima, u AI eri cilj postaje nešto drugo – uticati na način na koji mašina razmišlja.
Zbog toga mnogi stručnjaci smatraju da će zaštita podataka za obuku postati jednako važna kao zaštita samih računarskih sistema.
Kako veštačka inteligencija bude donosila sve više poslovnih, finansijskih i zdravstvenih odluka, pitanje više neće biti samo da li AI može da pogreši, već i da li je neko namerno učinio da pogreši.
