AI kompanije za suzbijanje slika zlostavljanja dece
Tehnološke kompanije kao što su Google, Meta, OpenAI, Microsoft i Amazon obavezale su da će pregledati svoje podatke o obuci veštačke inteligencije za materijal o seksualnom zlostavljanju dece (CSAM) i ukloniti ih iz upotrebe u svim budućim modelima.
Kompanije su potpisale novi set principa koji su trebali ograničiti širenje CSAM-a. Oni obećavaju da će osigurati da skupovi podataka za obuku ne sadrže CSAM, da izbegnu skupove podataka sa visokim rizikom od uključivanja CSAM-a i da uklone CSAM slike ili veze sa CSAM iz izvora podataka. Kompanije se takođe obavezuju na „testiranje na stres“ AI modela kako bi se osiguralo da ne generišu nikakve CSAM slike i da objavljuju modele samo ako su procenjeni za bezbednost dece.
Ostali potpisnici uključuju Anthropic, Civitai, Metaphysic, Mistral AI i Stability AI.
Generativna AI je doprinela povećanju zabrinutosti zbog duboko lažnih slika, uključujući i širenje lažnih CSAM fotografija na mreži. Istraživači sa Stanforda objavili su izveštaj u decembru u kojem su otkrili da popularni skup podataka koji se koristi za obuku nekih AI modela sadrži veze do CSAM slika. Istraživači su takođe otkrili da je linija saveta koju vodi Nacionalni centar za nestalu i eksploatisanu decu (NCMEC), koja se već bori sa obimom prijavljenih CSAM sadržaja, brzo preplavljena CSAM slikama generisanim veštačkom inteligencijom.
Neprofitna organizacija Thorn koja se bori protiv zlostavljanja dece, koja je pomogla u kreiranju principa sa All Tech Is Human, kaže da generisanje AI slika može da ometa napore da se identifikuju žrtve, da stvori veću potražnju za CSAM, omogući nove načine viktimizacije i ponovne viktimizacije dece i lakše je pronaći informacije o tome kako podeliti problematičan materijal.
U postu na blogu, Google kaže da je pored posvećenosti principima, takođe povećao grantove za oglašavanje za NCMEC da promoviše svoje inicijative. Google-ov potpredsednik za rešenja za poverenje i bezbednost, Susan Jasper, rekla je u postu da podrška ovim kampanjama podiže svest javnosti i daje ljudima alate za identifikaciju i prijavu zloupotrebe.
Izvor: TheVerge
