Google: Borba protiv deepfake pornografije

Usred uspona AI alata deepfake postaje sve veći problem, pa su brza rešenja neophodna. Google već radi na tome, a tako što pokušava da tako generisane pornografske sadržaje ukloni iz rezultata pretraživanja.

Lažni pornografski sadržaji su skrenuli pažnju mejnstrim javnosti još pre nekoliko godina. Već neko vreme se dakle približavamo svetu u kojem nećemo moći da budemo sigurni u verodostojnost bilo kojeg audio-vizuelnog sadržaja, što već utiče na gubljenje poverenja u medije, sudove, te javne institucije.

Nakon što je platforma Pornhub u februaru 2018. objavila da će uklanjati deepfake sadržaje u okviru kojih su lica poznatih ličnosti, ali i običnih građana, umetana porno snimke koji izgledaju prilično realno, kompanija Naughty America odlučila je da ovakve sadržaje stavi u službu sopstvenog poslovanja, pa je lansirala servis koji korisnicima omogućava da sadržaje prilagode sopstvenom ukusu, i da uključe svoj lik u erotske klipove koje gledaju. Od tada deepfake sve više ulazi u mejnstrim, i postaje dostupan i običnim građanima.

Mlađe generacije su u posebnoj opasnosti, jer poznaju alate koji do skoro nisu mogli ni da se zamisle, a koriste ih i za opasne stvari. Vršnjačko nasilje je ozbiljan problem, a društvene mreže su situaciju samo pogoršale – onaj/a koji je napadnut/a više nema mira ni kod kuće. Napadači idu i dalje, pa su savladali deepfake (problem nije nepoznat ni u našim školama). Dvojica tinejdžera su u martu 2024. godine uhapšeni u Majamiju, a to je prvo hapšenje koje je u vezi s kreiranjem i deljenjem eksplicitnih AI sadržaja. Slične probleme smo imali i u našoj zemlji.

Eksperti preporučuju da se vodi računa o tome šta se deli na društvenim mrežama, ali taj savet nije naročito koristan. Napadačima je potrebno tek nekoliko običnih fotografija da bi mogli da naprave deepfake sadržaje, što znači da niko nije potpuno siguran sve dok ne obriše sve što je podelio na internetu. Čak i ako se to uspešno izvede, napadači do fotografija mogu da dođu i na druge načine, pa nam ostaje da se nadamo da nećemo privući pažnju neke grupe koja AI koristi kao alat za ucenjivanje. Ili da će se odgovarajući zakoni uskoro naći u ulozi zaštitnika.

Još jedna mera koja bi mogla da pomogne u borbi protiv opasnih deepfake sadržaja je uklanjanje iz rezultata pretraživanja, a iz kompanije Google kažu da aktivno rade na smanjivanju vidljivosti takozvane „sintetičke pornografije“. Tako je tokom aprila 2024. godine smanjen saobraćaj na web sajtovima na kojima se nalaze AI generisani erotski snimci (dva najveća ovakva sajta su zabeležila smanjenje broja poseta od 21 i 25%).

Iako ovakve mere doprinose ublažavanju problema, sajtovi s deepfake pornografijom se još uvek lako pronalaze. Za sada su od najveće pomoći formulari uz pomoć kojih svako može da zatraži da se neki porno sadržaj ukloni iz Google Search rezultata.