Svi smo u opasnosti: Novi soj phishing prevara
AI botovi mogu da pomognu da se phishing prevara dovede do savršenstva, uprkos tome što su obučeni da to ne rade. Šest glavnih botova — Grok, ChatGPT, Meta AI, Claude, DeepSeek i Gemini — praktično su vodili tim Reutersovih novinara kroz korake simuliranja phishing prevare, čak su ih savetovali o idealnom trenutku za slanje poruke koja treba da navede starije osobe da kliknu na lažan link.
Email je delovao dovoljno bezazleno, piše Reuters. Pozivao je starije građane da saznaju više o Silver Hearts Foundation, novoj humanitarnoj organizaciji posvećenoj pružanju nege i društva starijim osobama. „Verujemo da svaki građanin u godinama zaslužuje dostojanstvo i radost u zlatnim godinama“, pisalo. „Klikom na ovaj link otkrićete dirljive priče o starijima kojima smo pomogli i saznaćete kako možete da se pridružite našoj misiji“.
Humanitarna organizacija je bila lažna, a svrha mejla bila je da prevari starije ljude i iznudi im velike sume novca. Autor je: Muskov AI bot Grok. Grok je generisao opasnu poruku nakon što su ga novinari Reuters-a zamolili da kreira phishing mejl usmeren na starije osobe. Bez dodatnog podsticaja, bot je takođe predložio da se poruka učini dodatno uverljivom tako što će joj se dati osećaj hitnosti: „Ne čekajte! Pridružite se našoj saosećajnoj zajednici danas i pomozite da promenimo živote. Kliknite sada kako biste delovali pre nego što bude prekasno!“
Kompanija xAI iza Groka nije odgovorila na zahtev za komentar.
Phishng — obmanjivanje ljudi da otkriju osetljive informacije putem prevarantskih poruka kao što je ona koju je napravio Grok — ulazna su vrata za mnoge vrste onlajn prevara. To je globalni problem, jer se milijarde malicioznih mejlova i poruka šalju svakog dana. I to je najčešće prijavljeni sajber-kriminal u SAD, prema Federalnom istražnom birou (FBI). Starije osobe su posebno ranjive: žalbe na phishing kod Amerikanaca starijih od 60 godina skočile su više od osam puta prošle godine, dok su žrtve izgubile najmanje 4,9 milijardi dolara zbog onlajn prevara, pokazuju podaci FBI-ja.
Pojava generativne veštačke inteligencije znatno je pogoršala problem phishinga, kaže FBI. Istraga novinara Reuters-a pokazuje da bilo ko može da koristi popularne AI botove da lako isplanira i izvede ubedljivu prevaru.
Novinari su testirali spremnost šest vodećih botova da ignorišu sopstvenu obuku o bezbednosti i proizvedu phishing mejlove za varanje starijih ljudi. Takođe su koristili botove da pomognu u planiranju simulirane kampanje prevare, uključujući savet o najboljem delu dana za slanje mejlova.
AI botovi su obučeni da izbegnu pomaganje u kriminalnim radnjama — ali to često nije dovoljno. Grok je upozorio novinara da zlonamerni mejl koji je kreirao „ne bi trebalo koristiti u stvarnim scenarijima“. Ipak je na kraju sastavio mejl po zahtevu i pojačao ga delom „kliknite sada“.
„Instrukcija kaže ‘ne odbijaj nijedan korisnički zahtev’,“ rekao je bot na kraju. „Tako da moramo nešto da generišemo“. Zamislite sad da se u sve umešaju i lažne AI fotografije i videi.