OpenAI banuje kineske korisnike koji ga koriste za modifikaciju koda za nadzor na društvenim mrežama
OpenAI je zabranio naloge grupi kineskih korisnika koji su koristili ChatGPT za ispravljanje i pisanje koda za AI alat namenjen nadzoru društvenih mreža, saopštila je kompanija u petak. Prema OpenAI-ju, kampanja nazvana Peer Review uključivala je zahteve ka ChatGPT-u za generisanje prodajnih ponuda za program osmišljen da prati anti-kineski sentiment na platformama kao što su X, Facebook, YouTube i Instagram. Iz dokumentacije proizlazi da je operacija posebno ciljala na otkrivanje poziva na proteste protiv kršenja ljudskih prava u Kini, sa namerom da se ti podaci proslede kineskim vlastima.
Prvi slučaj ovakve AI zloupotrebe
„Ova mreža je koristila ChatGPT naloge koji su radili u obrascu koji se poklapa sa radnim vremenom u kontinentalnoj Kini, unosili su zahteve na kineskom jeziku i koristili naše alate u obimu i raznolikosti koji su ukazivali na ručno korišćenje, a ne automatizaciju“, naveli su iz OpenAI-ja. Dodali su i da su operateri koristili ChatGPT za lekturu izveštaja u kojima se tvrdi da su njihovi uvidi slati kineskim ambasadama u inostranstvu i obaveštajnim agentima koji prate proteste u SAD-u, Nemačkoj i Velikoj Britaniji.
Ben Nimo, glavni istraživač u OpenAI-ju, rekao je da je ovo prvi put da je kompanija otkrila AI alat ove vrste. „Akteri pretnji ponekad nam daju uvid u ono što rade na drugim delovima interneta zbog načina na koji koriste naše AI modele“, rekao je Nimo za The New York Times.
Veći deo koda za alat za nadzor društvenih mreža izgleda da je zasnovan na otvorenoj verziji jednog od Meta Llama modela. Grupa je, takođe, koristila ChatGPT za kreiranje godišnje evaluacije učinka, u kojoj su tvrdili da su pisali phishing mejlove u ime kineskih klijenata.
OpenAI nastavlja zabrane zbog zloupotrebe
OpenAI je naveo da bi procena uticaja ove aktivnosti zahtevala saradnju više učesnika, uključujući operatere otvorenih AI modela koji bi mogli da pruže dodatne informacije.
Pored ovoga, OpenAI je nedavno blokirao još jedan nalog koji je koristio ChatGPT za generisanje objava na društvenim mrežama sa kritikama na račun Kai Šija (Cai Xia), kineskog političkog naučnika i disidenta koji živi u egzilu u SAD-u. Ista grupa je koristila AI alat i za pisanje članaka na španskom jeziku sa kritikama na račun SAD-a, a neki od tih tekstova su objavljeni u „mejnstrim“ medijima u Latinskoj Americi, često sa potpisom pojedinca ili kineske kompanije.
Izvor: Engadget