Microsoft zaustavio hakere koji zaobilaze zaštitne mere za AI Image Generator DALL-E
Microsoft je uspeo da zapleni internet domen koji se koristio za kreiranje „uvredljivih i štetnih“ slika generisanih veštačkom inteligencijom, preko kompanijske usluge Azure OpenAI.
Prema Microsoft-ovoj žalbi, kreatori domena su koristili ukradene akreditive za prijavu za Azure OpenAI, što im je omogućilo pristup AI generatoru slika DALL-E. Kompanija je opisala kreatore domena kao „grupu pretnji zasnovanu na stranim akterima“, koja je koristila prilagođeni softver da zaobiđe zaštitnu za DALL-E. Sajber kriminalci su zatim koristili ove usluge i preprodavali pristup drugim zlonamernim akterima sa detaljnim uputstvima o tome kako da koriste ove prilagođene alate za generisanje štetnog i nedozvoljenog sadržaja“.
Microsoft je otkrio aktivnost prošlog jula kada su hakeri pristupili Azure OpenAI preko API ključeva. Grupa je podsticala generisanje AI slika pomoću alata pod nazivom „de3u“, koji je ranije bio dostupan na GitHubu i domenu „rentri.org/de3u“ pre nego što je softver uklonjen.
Nejasno je koja vrsta uvredljivih slika je generisana. Zna se da je de3u alat mogao da zaobiđe Microsoft-ove zaštitne mere za generisanje AI slika tako što je sprečavao Azure OpenAI da revidira i filtrira korisničke tekstualne upite, ukoliko sadrže određene ključne reči. Kao odgovor, Microsoft je zabranio pristup i podneo tužbu prošlog meseca s ciljem da mu se dozvoli da preuzme domen „atism.net“ koji je upotrebljavan za ovu svrhu.
Nakon što je domen zaplenjen, Microsoft je primetio da hakeri preduzimaju korake da prikriju svoje tragove, uključujući pokušaje brisanja određenih GitHub stranica za alatku de3u. Takođe, uočeno je da su osumnjičeni kreatori de3u alata razgovarali o razbijanju na 4chan forumu, pa kompanija smatra da bi ova grupa mogla ponovo da ih napadne, ili da cilja druge generatore AI slika. Kao odgovor na to, postavljene su dodatne zaštitne mere, kako bi se sprečili dalji pokušaji zlonamerne upotrebe DALL-E generatora slika.
Izvor: PC Magazine
