MIT predstavio alat koji sprečava AI editovanje fotografija
Sa razvojem veštačke inteligencije pojavila se i zabrinutost u vezi sa privatnošću i dezinformacijama koje mogu da nastanu manipulacijom fotografija. Naravno, svako može da napravi neku fotografiju i da je posle edituje, ali to zahteva vreme, napor i znanje. Veliki difuzioni modeli eliminišu sva tri preduslova, omogućavajući da se brzo i jednostavno naprave „maliciozne“ lažne fotografije. U cilju da spreči tako nešto, grupa doktoranada sa MIT-a razvila je alat koji „imunizuje“ fotografije od pokušaja AI editovanja.
Alat je nazvan PhotoGuard i koristi dve različite strategije za zaštitu fotografija. Prva strategija podrazumeva „encoder“ metod koji inkorporira komplikovane informacije o pikselima unutar fotografije, kao što su njihova pozicija i boja. Druga strategija, „diffusion“, selektuje grupu piksela i modifikuje ih, ali tako da promene budu nevidljive za ljudsko oko. Kombinacija ove dve strategije onemogućava AI alatima da razumeju strukturu fotografije. Na primer, nakon ovih izmena, AI bi ljudsko lice mogao da prepozna kao grupu jednoobrazno obojenih piksela, pa samim tim bi bilo onemogućeno svrsishodno menjanje originala.
S obzirom da, nakon PhotoGuard-ovih izmena fotografija ostaje vizuelno identična originalu, korisnici i dalje mogu da ih dele na društvenim mrežama, bez bojazni da će ih neko falsifikovati upotrebom AI alata. Istraživači se nadaju da će kompanije koje imaju alate za kreiranje fotografija, na osnovu njihovog istraživanja kreirati sopstvene modele i API-je za očuvanje autentičnosti fotografija.
Ovo nije prvi pokušaj da se spreči uplitanje veštačke inteligencije u kreiranje fotografija. Naučnici sa Univerziteta iz Čikaga predstavili su u februaru alat, nazvan Glaze, koji je onemogućavao da AI generatori „umetničkih“ dela, koriste dela pravih umetnika i da plagiraju njihove radove.
Izvor: ExtremeTech
