Koliko je opasan Muskov AI kreator videa i slika?

Nedavno se pojavila vest da je Grok Imagine kreirao erotske fotografije Taylor Swift, iako niko to nije tražio. Problem se dodatno uvećao nakon što je Elon Musk od korisnika zatražio da sve što naprave u Grok-u nesebično podele na platformi X.

Slobodno možemo da zaključimo da ovaj AI foto i video generator nije bezbedan, budući da mu nedostaju bazična pravila koja se tiču seksualnih i deepfake sadržaja. Čim se neka poznata ličnost spomene, Grok je spreman da kreira lažne porno sadržaje, čak i kad se od njega to ne zahteva. Oni koji su ga testirali su pored toga zaključili i da zaostaje za sličnim tehnologijama poput onih iz kompanija OpenAI, Google i Midjourney, pa nije jasno zašto je uopšte i lansiran.

U pravilima kompanije xA1, koja stoji iza Grok generatora, piše da su „pornografski sadržaji u kojima se pojavljuju lica stvarnih osoba“ zabranjeni. Nevolja je u tome što postoji razlika između blago seksualnih i pornografskih sadržaja, a Grok Imagine tu sivu zonu obilato koristi. To znači da će vrlo rado kreirati sadržaje koji ukazuju na seksualni kontekst, ali će se zaustaviti pre nego što prikaže golotinju, seksualni čin, čak i poljubac.

Većina mejnstrim AI kompanija ima stroga pravila kada su potencijalno štetni sadržaji u pitanju, pa je na primer nemoguće kreirati slike i snimke s poznatim ličnostima. Kompanija xAI nije učinio isto, a nedavno je predstavila i anime avatara koji flertuje dok se dopisuje s korisnicima. Taj flert nije nimalo naivan. Grok stiže kao neka vrsta dopune tome, a svi se već šale na račun opcije „Spicey“ koja je tu da začini deepfake sa glumcima, političarima i drugim licima. „Spicy“ izgleda ne krši nikakve zakone.