Na konferenciji Pulse360, koja 9. oktobra u Sava Centru okuplja stručnjake iz zemlje i regiona pod sloganom „AI & Security Puzzle“, Jelena će biti keynote govornik.
Kako je AI postao centralna tema u sajber bezbednosti – koliko ova tehnologija može pomoći u detekciji i prevenciji napada, a gde vidite najveće rizike?
AI je postao centralna tema jer današnji sajber napadi postaju sve brži, prilagodljiviji i masovniji. Tradicionalne metode detekcije zasnovane na pravilima više nisu dovoljne – potrebno je analizirati obrasce ponašanja u realnom vremenu. AI može pomoći u otkrivanju anomalija, predviđanju potencijalnih napada i automatizaciji reakcija, što značajno smanjuje vreme odgovora.
Međutim, rizici su značajni. AI halucinacije predstavljaju problem jer modeli mogu generisati netačne ili pogrešne zaključke, što može dovesti do lažnih alarma ili do propuštanja stvarnih pretnji. Takođe, nedostatak objašnjivosti (AI explainability) znači da, ukoliko sistem ne može jasno da pokaže zašto je doneo određenu odluku, poverenje i efektivnost u bezbednosnom kontekstu dolaze u pitanje. Pored toga, pravna regulativa, kao što je Uredba Evropske unije o veštačkoj inteligenciji, jasno stavlja naglasak na visokorizične sisteme, uključujući i AI sisteme u finansijama i bezbednosti, i zahteva od institucija da obezbede transparentnost, nadzor i ljudsku kontrolu.
Koliko je realno da veštačka inteligencija postane prva linija odbrane kompanija?
AI već sada preuzima funkciju prve linije, ona može automatski analizirati mrežni saobraćaj, logove i ponašanje korisnika. Realnost je da AI može postati čuvar koji neprekidno nadgleda sistem. Međutim, potpuna automatizacija nije realna niti poželjna.
AI mora biti dopuna, a ne zamena ljudima, jer ljudski faktor donosi stratešku procenu i razumevanje šireg konteksta. EU Uredba o veštačkoj inteligenciji zahteva ljudski nadzor nad AI sistemima u kritičnim oblastima, što jasno pokazuje da AI može biti prva linija odbrane, ali nikako i poslednja. Rizik nastaje kada se organizacije previše oslone na AI, zanemarujući razvoj ljudskog kapaciteta i izgradnju kulture bezbednosti.
Mnogi stručnjaci upozoravaju da AI ne koristi samo odbrana već i napadači. Koji su najopasniji scenariji koje već danas vidite u praksi?
Najopasnije što već vidimo uključuje nekoliko ključnih pretnji. Prvo, AI-generisani phishing i spear-phishing postaju sve sofisticiraniji, personalizovani napadi koji izgledaju potpuno autentično i lako varaju korisnike. Drugo, deepfake tehnologija (audio i video falsifikati) ozbiljno ugrožava poverenje i može se koristiti za manipulaciju tržištima ili narušavanje reputacije. Treće, AI za automatizaciju napada omogućava sistemima da samostalno skeniraju ranjivosti i pokreću napade brže nego što ljudi mogu da reaguju.
Dodatno, AI omogućava napadačima da maskiraju tragove i zbune sisteme detekcije. Ako sistem pati od halucinacija ili netačnih klasifikacija, napadači to mogu zloupotrebiti. Upravo zato je transparentnost i objašnjivost ključna, bez toga odbrana može verovati „crnoj kutiji” koja daje pogrešne zaključke.
Na Pulse 360 konferenciji okupiće se regionalni lideri iz oblasti bezbednosti. Koje biste im preporuke dali u vezi sa implementacijom AI rešenja u njihovim organizacijama?
Najbolji pristup je postepena implementacija, koja podrazumeva početak kroz pilot projekte, praćenje rezultata i tek potom prelazak na širi obim. Ključno je obezbediti objašnjivost, odnosno birati AI rešenja koja omogućavaju audit tragove i transparentno objašnjavaju odluke. Edukacija zaposlenih je jednako važna, jer i najbolja AI rešenja padaju u vodu ako ljudi ne znaju kako da ih koriste. Takođe, potrebno je voditi računa o usklađivanju sa regulativom, budući da Uredba Evropske unije o veštačkoj inteligenciji jasno definiše obaveze za visokorizične sisteme i zahteva od kompanija da dokažu usklađenost kroz dokumentaciju i testiranje. Na kraju, jedini održivi pristup ostaje hibridni model, koji kombinuje snagu AI tehnologija sa ljudskim nadzorom.
I sami ste primer uspeha u oblasti kojom i dalje dominiraju muškarci. Šta smatrate ključnim da bi više žena pronašlo svoje mesto i karijeru u sajber bezbednosti?
Žene u sajberu nisu izuzetak, već neiskorišćen potencijal. Ključ je da to i poslodavci i društvo prepoznaju. Trebamo se okrenuti ka kombinaciji sistemske podrške i ličnih primera. Vidljivost uzora i mentora je ključna, žene moraju videti da postoji put za njih u ovoj oblasti. Kada mlade žene vide da je neko već uspeo, lakše poveruju da i same mogu, zbog čega je važno da delimo iskustva i otvaramo put drugima.
Jednako značajno je obrazovanje i rana motivacija, kroz radionice i programe koji uvode devojčice u STEM oblasti još u osnovnoj i srednjoj školi. Potrebna je i organizaciona podrška, kroz inkluzivne politike zapošljavanja, fleksibilne uslove rada i jednak pristup projektima visokog profila. Ako smo već navikli da multitaskujemo u privatnom životu, verujte mi da je sajber incident lakši zadatak. Konačno, moramo raditi na razbijanju stereotipa, jer sajber bezbednost nije samo tehnička disciplina, ona zahteva analitičke, komunikacione i etičke veštine u kojima žene donose ogromnu vrednost. Možda sajber deluje kao svet koda i kablova, ali istina je da je to pre svega svet ljudi.
Kako uskladiti brzinu inovacija u AI oblasti sa potrebom za regulacijom i etičkim standardima u sajber bezbednosti?
Ovo je jedan od najvećih izazova. AI inovacije se razvijaju eksponencijalno, dok pravni i etički okvir ide sporije. EU Uredba o veštačkoj inteligenciji predstavlja pionirski korak, uvodi klasifikaciju rizika i zahteva balans između inovacije i zaštite društva.
Potrebna nam je agilna regulacija, sa pravilima koja se mogu prilagođavati kako tehnologija napreduje. Podjednako je važno uvesti etiku po dizajnu (ethics by design), tako da AI rešenja od samog početka imaju ugrađene principe zaštite privatnosti, transparentnosti i odgovornosti. Na kraju, AI halucinacije i netačnosti moraju se aktivno neutralisati kroz temeljno testiranje i validaciju pre nego što se ovakvi sistemi implementiraju u kritične oblasti.
Koji su najveći izazovi u zaštiti portfolija finansijskih institucija?
Za finansijske institucije, izazovi su višeslojni. Globalna povezanost finansijskih mreža čini ih kompleksnim i međuzavisnim, pa napad na jedan deo ekosistema može ugroziti ceo lanac. Istovremeno, pojavljuju se napredne pretnje (APT), ciljane i dugoročne kampanje koje su često podržane od strane država. U tom kontekstu, zaštita podataka i poverenje klijenata postaju prioriteti, a regulative poput GDPR-a i EU Uredbe o veštačkoj inteligenciji stavljaju akcenat na transparentno i bezbedno upravljanje informacijama. Konačno, neophodno je razviti model rizika za AI, sa metrikama koje mere otpornost AI sistema na sajber napade i manipulacije, uključujući i napade na podatke za treniranje.
Najveći izazov je uskladiti otpornost sistema sa inovacijama, finansijske institucije ne mogu sebi priuštiti „pauzu” u digitalnoj transformaciji, ali ni kompromis po pitanju bezbednosti.
Kada govorimo o budućnosti, šta očekujete da će biti ključni trendovi u spoju AI i sajber bezbednosti u narednih pet godina?
Budućnost sajber odbrane sve više oblikuju autonomni sistemi zasnovani na veštačkoj inteligenciji, koji u realnom vremenu reaguju na incidente čak i pre ljudske intervencije. Istovremeno, generativna AI se koristi za simulaciju napada i prediktivno modeliranje kako bi se unapredila otpornost sistema. Međutim, AI explainability postaje obaveza, jer će regulativa i poverenje korisnika zahtevati da se koriste samo objašnjivi modeli. Veliki značaj dobija i detekcija deepfake sadržaja i manipulacija, kao ključni segment buduće sajber odbrane. Paralelno, očekuje se integracija AI u regulativne procese, kroz alate koji podržavaju audite i dokazivanje usklađenosti sa Uredbom Evropske unije o veštačkoj inteligenciji i drugim standardima. Na kraju, jednako važni kao tehničke performanse postaće i etika i poverenje, jer će transparentnost i odgovorna upotreba AI tehnologija biti temelj sigurnosti i prihvatanja.
Kako pokazuje i iskustvo Jelene Zelenović Matone, ključ uspeha u sajber bezbednosti leži u sinergiji tehnologije i ljudskog faktora. Automatizacija je važna, ali pravi rezultat donosi stručna kontrola i transparentnost. Upravo zbog toga, Pulse360 je nezaobilazno mesto za IT menadžere, cybersecurity eksperte, Incident Responder-e i analitičare, ali i za poslovne korisnike koji žele da ostanu korak ispred najnovijih pretnji. Ovogodišnji partneri konferencije su: Co.Next, Exclusive Networks, Clico, Ingram Micro, Trend Micro, Check Point, CyberArk, Palo Alto Networks, F5, Thales, Symantec, Huawei, Proofpoint, Tenable, Verimatrix, ServiceNow, Hive, Reputeo, dok je poslovna mreža RU4M? zvanična aplikacija konferencije.
Učešće je besplatno uz obaveznu registraciju na sajtu pulsec.com.
