Računari i Galaksija

TikTok uklanja deepfake sadržaje

TikTok menja pravila moderacije, a kako bi korisnike zaštitio od dezinformacija. Nove odluke došle su zbog američkih predsedničkih izbora, a u centru pažnje su se našli deepfake sadržaji koji postaju sve uverljiviji.

PCPress.rs Image

Deepfake pretnje

Eksperti već neko vreme ističu da imamo sreće što deepfake još uvek nije ozbiljan problem, a najpre zbog toga što od lažnih video sadržaja nema dobre zaštite, pa Facebook detektor, na primer, otkriva tek dve trećine od svih deepfake sadržaja koji se nađu na internetu. Iako su pornografski sadržaji skrenuli pažnju mejnstrim javnosti, stručnjaci proučavaju i druge segmente u okviru kojih bi deepfake u budućnosti mogao da ostavi ozbiljne posledice. Ipak, definicija toga šta je deepfake neće biti korisna u slučaju sprečavanja neželjenih scenarija, pa se polako približavamo svetu u kojem nećemo moći da budemo sigurni u verodostojnost bilo kojeg audio-vizuelnog sadržaja, što će uticati na još veće nepoverenje u medije, sudove, te javne institucije.

Nakon što je platforma Pornhub u februaru 2018. objavila da će uklanjati deepfake sadržaje u okviru kojih je lica poznatih ličnosti, te bilo koja druga, moguće uklopiti u neki pornografski sadržaj, koji potom izgleda prilično realno, kompanija Naughty America odlučila je da ovakve sadržaje stavi u službu sopstvenog poslovanja, pa je lansirala servis koji korisnicima omogućava da sadržaje prilagode sopstvenom ukusu, i da uključe svoj lik u erotske klipove koje gledaju. Od tada deepfake sve više ulazi u mejnstrim, i postaje dostupan i običnim građanima.

Pročitajte i:  TikTok-ova native aplikacija stiže za Vision Pro

PCPress.rs Image

Facebook se u borbu protiv deepfake-a uključio u septembru 2019. godine, te eksperte za AI pozvao da kreiraju sisteme koji bi uspešno detektovali ovakve sadržaje. U januaru 2020. je preduzet još jedan korak, u okviru kojeg su na platformi zabranjeni svi deepfake videi koji služe za širenje dezinformacija, a potom se pojavio i Deepfake Detection Challenge, u okviru kojeg je korišćeno 100 hiljada deepfake video klipova koji su korišćeni za obuku sistema za detektovanje.

U borbu se sada uključio i TikTok, koji već zabranjuje političke reklame, a banovanje deepfake videa bi trebalo da dodatno oteža manipulisanje javnim mnjenjem zarad sticanja političkih poena.

Izvor: The Verge

Facebook komentari:
SBB

Tagovi: , ,