Vještačka inteligencija mijenja pravila sajber bezbjednosti

Kako koegzistirati sa vještačkom inteligencijom?

Dvodnevna konferencija IT SPOT 2025 koju nevladina organizacija ICT Cortex realizuje u Podgorici učesnicima je tokom prvog dana ponudila spoj inspirativnih predavanja, interaktivnih radionica i prilika za povezivanje.

U drugom dijelu današnjeg programa ekspertkinja za sajber bezbjednost i CISO, Jelena Zelenović Matone govorila o kompleksnoj ulozi vještačke inteligencije u sektoru sajber bezbjednosti.

- Vještačka inteligencija može da uveća i dobre i loše stvari. AI zavisi od onoga šta ćemo mi raditi sa njim. Mi odlučujemo šta ćemo raditi sa AI. Sa dobre strane, vidimo da nam vještačka inteligencija pomaže da uočimo anomalije mnogo brže nego prije, možemo vidjeti i predvidjeti sajber napade. Automatizovani odgovori su takođe veoma važni. Prije bi analitičarima trebalo oko nekoliko sati ili čak nekoliko dana da otkriju sajber napade. Sada sa vještačkom inteligencijom imamo odgovor za koji su potrebne sekunde. Radimo brzinom mašina. Negativne strane su što imamo deep fake napade gdje je jako teško razaznati šta je stvarno, a šta ne. Problem je što nemamo dovoljno alata da kao eksperti otkrijemo šta je stvarno, a šta ne. Vidimo i da AI mutira i bori se protiv naše odbrane. Najvažnije je kako upravljamo AI-em i šta radimo sa njim - navela je Zelenović Matone.

U sklopu panela Ko gradi sajber bezbjednost u regionu dr Andreja Mihailović, predsjednica Women4cyber Montenegro je istakla da treba da se promijeni način razmišljanja o vještačkoj inteligenciji.

- Najvažnije znanje koje danas možemo imati nije kako se takmičiti sa vještačkom inteligencijom, već naučiti kako da koegzistiramo sa njom. Sajber bezbjednost je nekada zatvarala digitalna vrata, a danas razumije ljudski, ali i vještački način razmišljanja. Akt Evropske unije o vještačkoj inteligenciji jasno navodi da odgovornost, ljudski nadzor i transparentnost nisu filozofski koncepti, već da su obaveze u praksi - navela je Mihailović.

Miloš Martinović, šef Odjeljenja za kontinuitet poslovanja i sigurnost informacija Centralne banke Crne Gore predstavio je planove za implementaciju Uredbe o digitalnoj operativnoj otpornosti DORA.

- Napravili smo prvi nacrt Zakona o digitalnoj i operativnoj otpornosti za kreditne institucije, ali je Savjet za finansijsku stabilnost tražio amandmane i tražio da se uključe osiguravajuće kompanije i investicioni fondovi, tako da ćemo imati zakon o digitalnoj i operativnoj otpornosti cijelog finansijskog sektora. Implementacija će biti izazovna jer banke imaju rogobatnu strukturu informacione bezbjednosti, pogotovo one banke koje su dio velikih stranih grupacija - naveo je Martinović.

Gilles Schwoerer, direktor programa i šef Centra za kibernetičke kapacitete Zapadnog Balkana (WB3C) naveo je da promjena u sektoru sajber sigurnosti treba da krene sa univerziteta.

- Počeli smo sa dugim treninzima koji dovode do diplome. U februaru počinjemo sa bačelor programom Digitalne forenzike. Potrebni su nam ljudi ne samo sa diplomom, već i oni koji će biti spremni da daju odgovore na probleme sa kojima se susreću administracije, ministarstva ili kompanije u sektoru sajber sigurnosti. Treba nam vježbe u tom sektoru - kazao je Schwoerer.

Duško Karaklajić stručnjak za sigurnost i usklađenost iz kompanije Amazon Web Services skrenuo je pažnju na lokalizaciju pitanja sajber sigurnosti.

- Evropska regulativa je vrlo fragmentirana što znači da iako imamo zajedničke regulative kao što je DORA, uvijek postoje lokalne specifičnosti. Važno je znati kako uspostaviti lokalne regulatorne standarde da bi se postigla otpornost. Te aktivnosti mogu varirati od radionica za donosioce zakona do edukativnih konverzacija. Važno je i partnerstvo sa akademskom zajednicom, te je potrebno znati kako teorijsko znanje primijeniti u životnim scenarijima - saopštio je Karaklajić.

Posljednji današnji panel bio je posvećen novoj generaciji AI.

- Danas ne koristimo chat botove samo da odgovaraju na pitanja unutar zadatih ograničenja, kreiramo virtuelne agente koji imaju autonomiju i mogućnost da zaključuju i uče iz iskustva. Cilj je da mogu da predvide i reaguju, ali i da uče kako bi kreirali nove iteracije istih akcija - pojasnila je Vlada Sebastiao, inženjer rješenja u kompaniji Cloudflare.

Boris Bilecki, glavni arhitekta rešenja iz kompanije Backbase pojasnio je kako je došlo do razvoja nove generacije AI.

- Prvo smo imali chat botove, naredni korak su bili kopiloti i asistenti, to su entiteti koji su imali alate i mogli da izvršne aktivnosti koje ste vi odobravali, a sada imamo agente – entitete koji imaju svoje mozgove i imaju pristup alatima koji su sposobni da zapamte razgovore, da donose odluke i da imaju interakciju sa drugim agentima - objasnio je Bilecki.

Žoao Souza, naučnik podataka iz Amazon Web Services ukazao je da danas sistemu daju dovoljno autonomije da samostalno donosi odluke.

- Sada imamo sisteme koji imaju interakciju sa svijetom sa API pozivima i navigiranjem web sajtova što je sve povezano sa promjenom ka autonomiji AI. Objašnjenje zašto se sve to dešava sada jeste zato što se unapređuje infrastruktura, te imamo modele kao što je GPT 4 - naveo je Souza.

Radosłav Sznajder, šef podrške iz Voluum / Codevise naveo je da vještačku inteligenciju koriste da svakodnevno odgovara na najjednostavnija repetitivna pitanja, kako bi zaposlenima osigurali više vremena da se bave kompleksnijim pitanja, klijentima i ličnim razvojem.

- Najvažnija stvar kod uvođenja bilo koje nove tehnologije je edukacija. Treba dopustiti ljudima da se igraju sa AI botovima. Što više imaju interakcije sa AI modelom mogu ga bolje upoznati i ne plašiti se. Najgori scenario je da niste informisani. Što bolje razumiju vještačku inteligenciju znaće da je AI tu za njih, a ne da ih zamijeni. Nije cilj da izgube posao, već da ih učini produktivnijima. AI treba da radi stvari za zaposlene, a ne umjesto njih - poručio je Sznajder.

Zanimljivi paneli i prezentacije u okviru trećeg izdanja IT SPOT konferencije biće nastavljeni sjutra u Muzičkom centru Crne Gore sa početkom u 10 časova.