Nadzorni odbor: Meta ne čini dovoljno da se bori protiv prevara sa deepfake videima poznatih ličnosti
AI deepfake snimci javnih ličnosti sve češće se koriste za prevare. Prevare koje koriste AI deepfake videe poznatih ličnosti postale su sve veći problem za Metu u poslednjih nekoliko godina.
Sada se oglasio i Nadzorni odbor. Odbor je potvrdio ono što mnogi kritičari već govore: Meta ne sprovodi dovoljno stroga pravila i prevarantima je suviše lako da se provuku.
“Meta verovatno dozvoljava značajnu količinu prevarantskog sadržaja na svojim platformama da bi izbegla prekomerno kažnjavanje malog broja stvarnih oglasa poznatih osoba,” naveo je odbor u svojoj poslednjoj odluci. “Moderatori nisu ovlašćeni da primene zabranu na sadržaj koji stvara lažni identitet ili se pretvara da je poznata osoba radi obmane.”
Zaključak je donet na osnovu slučaja oglasa za online kazino igru “Plinko” koji je koristio AI-izmenjen video legendarnog brazilskog fudbalera Ronalda. Oglas, koji je prema odboru imao očigledne znake da je lažan, nije uklonjen od strane Mete čak ni nakon više od 50 prijava. Kasnije je oglas uklonjen. Ali ne i originalni Facebook post, sve dok Nadzorni odbor nije preuzeo slučaj. Video je pregledan više od 600.000 puta.
Deepfake sadržajem postaju sve veći problem za Metu
Odbor je rekao da slučaj osvetljava osnovne probleme u Metinom pristupu moderiranju sadržaja. Naročito kada su u pitanju prevare sa poznatim ličnostima. Meta je odboru navela da politiku sprovodi samo “po eskalaciji” kako bi proverila da li osoba zaista podržava proizvod. Tumačenje “lažnog identiteta” može da varira po regionima, što stvara neujednačenu primenu pravila.
Kao jedinu preporuku, odbor je predložio Meti da ažurira interne smernice, obuči moderatore i omogući im da prepoznaju indikatore AI-izmenjenog sadržaja. Meta je u odgovoru navela da su “mnoge tvrdnje Odbora jednostavno netačne”. Kompanija je ukazala na testiranje tehnologije prepoznavanja lica kako bi se borila protiv ovih prevara.
Prevare sa deepfake sadržajem postaju sve veći problem za Metu jer AI alati postaju jeftiniji i dostupniji. Ranije ove godine, novinar je otkrio desetine stranica sa oglasima u kojima se koriste deepfake videi Muska i voditelja Fox Newsa za reklame koje promovišu lekove za dijabetes. Neke od tih stranica su ponavljano objavljivale stotine verzija istih oglasa. Meta ih je delimično uklonila. Ali slični oglasi i dalje postoje na Facebooku. Glumica Džejmi Li Kertis takođe je javno kritikovala Marka Zakerberga jer nije uklonio deepfake oglas u kome se ona pojavljuje. Meta ga je uklonila tek nakon njenih objava.
Odbor je otkrio i da se u Metinoj Ad biblioteci nalazi na hiljade video oglasa za aplikaciju Plinko. Među kojima su i drugi deepfake videi sa Kristijanom Ronaldom i samim Markom Zakerbergom.
Izvor: Engadget