Računari i Galaksija

AI i opasnosti od imitiranja glasa

Internet trolovi su se dočepali besplatne tehnologije za kloniranje glasa, a koriste je za imitiranje poznatih ličnosti.

PCPress.rs Image

Platformu je napravila kompanija ElevenLabs, a zloupotrebljava se za sve i svašta – od mimova, preko porno sadržaja, do lažiranja vatrenih govora. Glas mete se klonira za nekoliko sekundi, a tehnologija je postala vrlo popularna među 4chan korisnicima. Savršena je za širenje lažnih vesti, možda i više nego deep fake, budući da glas lako može da se lažira, lakše od videa i slika.

Ovakvi sistemi su se znatno poboljšali poslednjih godina, ali ElevenLabs softver prednjači – nudi moćnu kombinaciju brzine, kvaliteta i dostupnosti. Pored toga nema nikakva ograničenja, pa glasovi poznatih mogu da se zloupotrebljavaju bez granica. Već su se pojavili klipovi u kojima klonirani glasovi glumaca i glumica čitaju problematične stvari.

Pročitajte i:  AI kao direktor kompanije?

ElevenLabs softver reklamira kao način da se lako sinhronizuju filmovi, snimaju audio knjige, ali su trolovi smislili nešto drugo. Nemoguće je da kreatorima nije palo na pamet kako softver može da se zloupotrebi, ali nema stvari na ovom svetu koja ne može da se iskoristi za nešto loše. Čovek je u tom smislu veoma kreativan.

Izvor: The Verge

Facebook komentari:
SBB

Tagovi: , , ,