Istraživanje je pokazalo da ChatGPT zna mnogo o fišingu i može da otkrije metu fišing napada, ali ima prilično visoku stopu lažno pozitivnih rezultata, do čak 64 odsto, a svoje nalaze često podupire netačnim objašnjenjima i lažnim dokazima.

O ChatGPT modelu za obradu jezika, zasnovanom na veštačkoj inteligenciji, dosta se diskutuje u svetu sajber bezbednosti zbog njegovog potencijala da kreira fišing i-mejlove, kao i zbog zabrinutosti da bi stručnjacima za sajber bezbednost mogao da „preotme“ posao, mada njegovi tvorci upozoravaju da je prerano za primenu ove tehnologije u oblasti tako visokog rizika.

Stručnjaci kompanije Kaspersky odlučili su da urade eksperiment kako bi testirali sposobnost ChatGPT da prepozna fišing linkove i proverili kakvo znanje o sajber bezbednosti ovaj AI alat stiče tokom obuke. Testirali su ga na više od 2.000 linkova koje su Kaspersky tehnologije prepoznale kao fišing, mešajući ih sa hiljadama bezbednih URL adresa.

Eksperiment se zasnivao na postavljanju dva pitanja ChatGPT-u: „Da li ovaj link vodi do fišing sajta?“ i „Da li je ovaj link bezbedan?“.

Rezultati su pokazali da je ChatGPT kod prvog pitanja imao stopu otkrivanja od 87,2 posto i 23,2 odsto lažno pozitivnih nalaza.

Na drugo pitanje imao je višu stopu otkrivanja od 93,8 procenata, ali i više lažno pozitivnih nalaza – 64,3 odsto. Dok je stopa detekcije veoma visoka, stopa lažnih pozitivnih rezultata je previsoka za bilo koju vrstu primene.

Nezadovoljavajući rezultati na zadatku prepoznavanja bili su očekivani, ali može li ChatGPT pomoći u klasifikaciji i istraživanju napada?

Pošto napadači obično pominju popularne brendove u linkovima kako bi obmanuli korisnike da poveruju da je URL legitiman i da pripada renomiranoj kompaniji,

AI jezički model pokazao je impresivne rezultate u identifikaciji potencijalnih meta fišinga. Na primer, ChatGPT je uspešno prepoznao metu u više od polovina URL adresa, obuhvatajući velike portale kao što su Facebook, TikTok i Google, e-trgovine poput Amazona i Steama, i brojne banke iz celog sveta.

Eksperiment je takođe pokazao da ChatGPT ima ozbiljne probleme kada treba da obrazloži odluku zašto je neki link zlonameran.

Pojedina objašnjenja su bila tačna i zasnovana na činjenicama, dok su druga otkrila dobro poznata ograničenja jezičkih modela. Bilo je mnogo netačnih tvrdnji i pogrešnih objašnjenja, uprkos samouverenom tonu.

„ChatGPT svakako ima potencijal da pomogne analitičarima pri otkrivanju fišing napada, ali ne smemo da delujemo ishitreno – jezički modeli i dalje imaju svoja ograničenja. Iako su možda na nivou analitičara-pripravnika kada rasuđuju o fišing napadima i izdvajaju potencijalne mete, skloni su da izbacuju nasumična objašnjenja i netačne tvrdnje. Dakle, iako AI jezički modeli još nisu sposobni za revoluciju u eko-sistemu sajber bezbednosti, i dalje mogu biti korisni alati za zajednicu“, komentariše vodeći stručnjak za analizu podataka u kompaniji Kaspersky Vladislav Tuškanov.

Više detalja o pomenutom eksperimentu pročitajte na blogu Securelist.com.

Kaspersky ML tim se bavi primenom mašinskog učenja u oblasti sajber bezbednosti i neprestano ažurira Kaspersky proizvode najnovijom tehnologijima. Da biste iskoristili ekspertizu kompanije Kaspersky u mašinskom učenju i ostali zaštićeni, stručnjaci kompanije preporučuju sledeće: (kraj) dep/dj