PhotoGuard sa MIT-a će zaštiti vaše slike od zlonamernih AI izmena
Kako se generativni sistemi veštačke inteligencije šire i kompanije rade na tome da razlikuju svoju ponudu od ponude svojih konkurenata, čet-botovi širom interneta dobijaju moć da uređuju slike. Ali sa tim novim mogućnostima sa AI-om dolaze poznate zamke, poput neovlašćene manipulacije ili direktne krađe postojećih umetničkih dela i slika na mreži.
Snažna odbrana od neovlašćene manipulacije slikama
PhotoGuard funkcioniše tako što menja odabrane piksele na slici tako da će poremetiti sposobnost veštačke inteligencije da razume šta je slika. Ta maskiranja su nevidljiva ljudskom oku, ali lako čitljive mašinama. Napredniji i računarski intenzivniji metod „difuzionog“ napada kamuflira sliku kao drugačiju sliku u očima AI. On će definisati ciljnu sliku i optimizovati perturbacije u njenoj slici tako da liči na njenu metu. Sve izmene koje AI pokuša da izvrši na ovim slikama biće primenjene na lažne „ciljne“ slike što rezultira nerealnim izgledom generisane slike.
Pristup saradnje koji uključuje programere modela, platforme društvenih medija i kreatore politike predstavlja snažnu odbranu od neovlašćene manipulacije slikama. Rad na ovom hitnom pitanju danas je od najveće važnosti. Potrebno je mnogo rada da bi ova zaštita bila praktična. Kompanije koje razvijaju ove modele moraju da investiraju u inženjering robusne imunizacije protiv mogućih pretnji koje predstavljaju ovi AI alati.
Izvor: Engadget
