Deepfejkovi, prevare i doba paranoje

Danas, kada Nikol Jelend primi poziv za sastanak od nekoga koga ne poznaje, prolazi kroz višestepenu proveru pre nego što odluči da li će je prihvatiti.

Kako AI prevare postaju sve češće, sve više ljudi oseća potrebu da proverava svaku interakciju koju imaju na internetu

Jelend, koja radi u sektoru odnosa s javnošću za jednu neprofitnu organizaciju sa sedištem u Detroitu, kaže da informacije o toj osobi unosi u Spokeo – servis za pretragu ličnih podataka, koji koristi uz mesečnu pretplatu. Ako osoba tvrdi da govori španski, ona će nenametljivo proveriti njihovo razumevanje složenijih izraza. Ako joj nešto ne deluje kako treba, tražiće da se sastanak održi putem Microsoft Teams – uz obavezno uključenu kameru. Ako vam Jelend deluje paranoično, to je zato što to i jeste. U januaru, pre nego što je počela da radi u trenutnoj organizaciji, postala je meta složene prevare koja je ciljala ljude u potrazi za poslom.

„Sada svaki put kad mi se neko obrati, prolazim kroz celu proceduru provere“. Prevare sa lažnim digitalnim identitetima nisu novost – platforme za dopisivanje, društvene mreže i aplikacije za upoznavanje već dugo vrve od lažnjaka. Ali u vreme kada su rad na daljinu i timovi raspoređeni širom sveta postali uobičajeni, ni profesionalne komunikacione platforme više nisu bezbedne. Isti alati veštačke inteligencije za koje tehnološke kompanije tvrde da povećavaju produktivnost, istovremeno olakšavaju kriminalcima i prevarantima da u sekundi stvore lažni identitet. Na LinkedIn-u može biti teško razlikovati blago doteranu fotografiju prave osobe od previše ispeglanog, AI-generisanog lica. Video deepfejkovi postaju toliko uverljivi da se čak i iskusni email prevaranti preusmeravaju na imitacije ljudi tokom video poziva. Prema podacima Američke federalne komisije za trgovinu, broj prijava vezanih za prevare sa zaposlenjem gotovo se utrostručio između 2020. i 2024. godine, dok su finansijski gubici od tih prevara porasli sa 90 miliona na 500 miliona dolara. Jelend kaže da su je u januaru kontaktirali prevaranti koji su se predstavljali kao legitimna kompanija sa stvarnim proizvodom. „Menadžer za zapošljavanje“ s kojim je komunicirala delovao je uverljivo, čak je podelio i prezentaciju sa opisom radnog mesta. Međutim, tokom prvog video intervjua, odbili su da uključe kamere i tražili neobične podatke, uključujući i broj vozačke dozvole. Shvativši da je prevarena, Jelend je zatvorila laptop.

Ovakve šeme postale su toliko rasprostranjene da se pojavljuju startapi fokusirani na otkrivanje AI-generisanih prevara – kao što su GetReal Labs i Reality Defender. Izvršni direktor kompanije OpenAI, Sem Altman, vodi i startap za proveru identiteta Tools for Humanity, koji razvija uređaje za skeniranje očiju. Oni prikupljaju biometrijske podatke, kreiraju jedinstven digitalni identifikator i čuvaju te informacije na blokčejnu. Ideja je da se dokaže „ljudskost“, odnosno da ste zaista čovek. (Mnogi koji rade na blokčejnu veruju da je to rešenje za proveru identiteta.)

Ipak, mnogi profesionalci se oslanjaju na „stare dobre“ metode društvenog inženjeringa kako bi proverili sumnjive kontakte. Dobro došli u doba paranoje, gde će vam neko možda tražiti da mu pošaljete email usred telefonskog razgovora, poslati poruku na Instagramu da proveri da li ste vi zaista poslali poruku na LinkedIn-u, ili zahtevati selfi sa vremenskim žigom kao dokaz identiteta. Neki čak koriste tajne lozinke sa kolegama kako bi se zaštitili od prevara. „Što je najluđe, te primitivne metode zapravo funkcionišu“, kaže Danijel Goldman, softverski inženjer i bivši startap osnivač. On je počeo da menja ponašanje nakon što je čuo da je poznata osoba iz kripto sveta bila imitirana putem deepfejka na video pozivu. „Tad me uhvatio strah Božji“, kaže on. Nakon toga je upozorio porodicu i prijatelje da, čak i ako čuju njegov glas ili ga vide na video pozivu kako traži novac ili lozinku, prvo provere preko emaila pre nego što išta urade.

Ken Šumaher, osnivač servisa Ropes za verifikaciju kandidata, kaže da sarađuje sa menadžerima za zapošljavanje koji postavljaju brza pitanja o mestu u kom kandidat tvrdi da živi – poput omiljenih kafića ili mesta za izlaske. Ako zaista žive tamo, trebalo bi da lako odgovore na ta pitanja. Drugi trik koji se koristi u proveri je takozvani „telefon-kamera trik“. Ako neko sumnja da osoba sa kojom razgovara koristi deepfejk, može tražiti da podigne telefon i kamerom usmeri ka svom laptopu – kako bi se proverilo da li koristi softver za prikrivanje identiteta. Ipak, ovaj metod može biti i neprijatan – pošteni kandidati mogu biti nevoljni da pokazuju enterijer svojih domova ili se plaše da ih neko na taj način nepropisno procenjuje.

„Svi su napeti i sumnjičavi“, kaže Šumaher.

Iako ponašanje poput „ljudskog kapče“ može pomoći u bezbednosti, čak i najparanoičniji priznaju da ovakve provere stvaraju nepoverenje već na početku komunikacije. Osim toga, oduzimaju dosta vremena. „Imam osećaj da nešto mora da se promeni“, kaže Jelend. „Toliko vremena na poslu gubim pokušavajući da proverim da li su ljudi stvarni.“

Džesika Ajz, docentkinja koja istražuje klimatske promene i društveno ponašanje na Univerzitetu Indijane, kaže da je njen tim morao praktično da postane digitalna forenzička ekipa zbog količine prevaranata koji odgovaraju na oglase za plaćene onlajn ankete. (Prevaranti, očekivano, ne jure neplaćene ankete.) Za jedan od projekata, koji finansira država, učesnici moraju biti stariji od 18 godina i živeti u SAD.

„Proveravali smo vremenske oznake u odgovorima na emailove – ako bi neko odgovarao u čudno vreme, posumnjali bismo da nije iz tražene vremenske zone“, kaže Ajz. „Zatim bismo tražili druge signale – poput formata email adrese ili nelogičnih demografskih podataka.“ Dodaje da je vreme utrošeno na provere bilo „ogromno“, zbog čega su smanjili broj učesnika po studiji i prešli na metod „snežne kugle“ – regrutovanje poznanika. Sve više koriste i štampane flajere kako bi lično tražili učesnike. „Veoma nam je stalo do tačnosti podataka i da zaista proučavamo one koje tvrdimo da proučavamo“, kaže. „Ne verujem da postoji lako rešenje.“

Ako se izuzmu sveobuhvatna tehnička rešenja, ponekad i zdravorazumski pristup može pomoći u otkrivanju prevaranata. Jelend je podelila prezentaciju koju je dobila u okviru lažne ponude za posao. Na prvi pogled delovala je uverljivo, ali nakon pažljivijeg pregleda, nekoliko detalja je odskakalo – plata je bila znatno iznad prosečne, nudili su neograničen godišnji odmor, izdašno plaćeno porodiljsko odsustvo i potpuno pokriveno zdravstveno osiguranje. U današnjim uslovima zapošljavanja, to je možda bio i najveći znak da se radi o prevari.

Izvor: Wired.com