Problem novog doba: Učenici uhapšeni zbog deepfake sadržaja

Sve češće u neobaveznim razgovorima čujemo da se moderne tehnologije uvlače svuda, pa i među učenike osnovnih i srednjih škola. Vršnjačko nasilje odavno nije samo analogno, a svi željno čekaju zakone kojima bi se zaštitili oni koji su meta zlostavljanja.

Mlađe generacije poznaju alate koji do skoro nisu mogli ni da se zamisle, a koriste ih i za opasne stvari. Vršnjačko nasilje je ozbiljan problem, a društvene mreže su situaciju samo pogoršale – onaj/a koji je napadnut/a više nema mira ni kod kuće. Napadači idu i dalje, pa su savladali deepfake (problem nije nepoznat ni u našim školama). Dvojica tinejdžera su nedavno uhapšeni u Majamiju, a to je prvo hapšenje koje je u vezi s kreiranjem i deljenjem eksplicitnih AI sadržaja.

Eksperti već godinama ističu da imamo sreće što deepfake još uvek nije ozbiljan problem, a najpre zbog toga što od lažnih video sadržaja nema dobre zaštite, pa Facebook detektor otkriva tek dve trećine od svih deepfake videa koji se nađu na internetu. Problem se izgleda pogoršava – u početku su meta bile poznate ličnosti, a danas to može da bude bilo ko – čak i najmlađi.

Dvojica učenika (stari 13 i 14 godina) iz Majamija su uhapšeni u decembru 2023. godine, a optuženi su za kreiranje eksplicitnih deepfake sadržaja u kojima su se našli njihovi drugovi i drugarice iz odeljenja. Optuženi su po zakonu kojim se kreiranje deepfake sadržaja bez pristanka smatra zločinom. Maloletnika koji na ovaj način zlostavljaju svoje vršnjake je sve više, a problem je zabeležen u svim delovima sveta. Pre ovog slučaja nije bilo hapšenja, pa bi ovo mogla da bude prekretnica, korak ka tome da se potencijalne žrtve zaštite na vreme.

Eksperti preporučuju da se vodi računa o tome šta se deli na društvenim mrežama, ali taj savet nije naročito koristan. Napadačima je potrebno tek nekoliko običnih fotografija da bi mogli da naprave deepfake sadržaje, što znači da niko nije potpuno siguran sve dok ne obriše sve što je podelio na internetu. Čak i ako se to uspešno izvede, napadači do fotografija mogu da dođu i na druge načine, pa nam ostaje da se nadamo da nećemo privući pažnju neke grupe koja AI koristi kao alat za ucenjivanje. Ili da će se odgovarajući zakoni uskoro naći u ulozi zaštitnika.