OpenAI napravio „TikTok za deepfake sadržaje“

OpenAI je lansirao novu aplikaciju Sora koja korisnicima omogućava da kreiraju digitalne avatare i skroluju kroz AI-generisane video snimke korisnika koje prate.

Kompanija je predstavila novu društvenu mrežu, aplikaciju za iPhone. U pitanju je pokušaj da privuče pažnju korisnika koji trenutno gledaju kratke video formate na TikTok-u, YouTube-u, pa i na Instagram-u i Facebook-u.

Nova aplikacija se oslanja na privlačnost mogućnosti da korisnici naprave video u kojem mogu da rade skoro bilo šta što može da se zamisli, i da ga onda podele s drugima. Poplava takvih video sadržaja doduše izaziva zabrinutost da bi društvene mreže mogle da se ispune „AI šumom” koji potiskuje autentičnu ljudsku kreativnost i narušava kvalitet informacionog ekosistema.

Kako tehnologija napreduje, AI-generisani video snimci postaju sve sofisticiraniji i u stanju da zavaraju publiku. Prošle nedelje je video u kojem izgleda kao da gori kanadski CN Tower postao viralan na Facebook-u, pri čemu su mnogi korisnici poverovali da je istinit. Od bezazlenih snimaka zečeva na trampolini, do „deepfake” video materijala lažnih požara – korisnici društvenih mreža često budu prevareni.

Zvanični promotivni video za aplikaciju Sora prikazuje AI-generisanu verziju izvršnog direktora OpenAI-a, Sama Altmana, koji govori iz psihodelične šume, sa Meseca i sa stadiona prepunog navijača koji gledaju trke gumenih patkica. Nakon uvoda, reč preuzima njegov tim prikazan u drugim bizarnim scenarijima. Aplikacija je za sada dostupna samo na Apple uređajima, i to u SAD i Kanadi.

Zvaničnici kompanije ističu da su uveli mere kojima se sprečava kreiranje video snimaka javnih ličnosti ili drugih korisnika aplikacije bez njihove dozvole. Jedna od tih mera je „liveness check” – aplikacija traži od korisnika da pomera glavu u različitim pravcima i izgovara nasumične brojeve. Nakon toga može da vide draftove videa u kojima se koristi njegov lik. Valjda je to dovoljno da se spreči kraj sveta.