AI i opasnosti od imitiranja glasa
Internet trolovi su se dočepali besplatne tehnologije za kloniranje glasa, a koriste je za imitiranje poznatih ličnosti.
Platformu je napravila kompanija ElevenLabs, a zloupotrebljava se za sve i svašta – od mimova, preko porno sadržaja, do lažiranja vatrenih govora. Glas mete se klonira za nekoliko sekundi, a tehnologija je postala vrlo popularna među 4chan korisnicima. Savršena je za širenje lažnih vesti, možda i više nego deep fake, budući da glas lako može da se lažira, lakše od videa i slika.
AI narrates The Great Gatsby.
Listen to a fragment from the classic by F. Scott Fitzgerald. Narrated by a fully AI-generated voice. No corrections were made. pic.twitter.com/vQdorBjQK6
— ElevenLabs (@elevenlabsio) January 29, 2023
Ovakvi sistemi su se znatno poboljšali poslednjih godina, ali ElevenLabs softver prednjači – nudi moćnu kombinaciju brzine, kvaliteta i dostupnosti. Pored toga nema nikakva ograničenja, pa glasovi poznatih mogu da se zloupotrebljavaju bez granica. Već su se pojavili klipovi u kojima klonirani glasovi glumaca i glumica čitaju problematične stvari.
Crazy weekend – thank you to everyone for trying out our Beta platform. While we see our tech being overwhelmingly applied to positive use, we also see an increasing number of voice cloning misuse cases. We want to reach out to Twitter community for thoughts and feedback!
— ElevenLabs (@elevenlabsio) January 30, 2023
ElevenLabs softver reklamira kao način da se lako sinhronizuju filmovi, snimaju audio knjige, ali su trolovi smislili nešto drugo. Nemoguće je da kreatorima nije palo na pamet kako softver može da se zloupotrebi, ali nema stvari na ovom svetu koja ne može da se iskoristi za nešto loše. Čovek je u tom smislu veoma kreativan.
Izvor: The Verge
