OpenAI: Sve više kineskih grupa koristi ChatGPT u zlonamerne svrhe
Kompanija OpenAI saopštila je da primećuje sve veći broj kineskih grupa koje koriste njenu AI tehnologiju za prikrivene operacije.
Zloupotreba generativne AI
Iako su obim i taktike tih operacija porasli, većina njih i dalje je malog obima i cilja ograničenu publiku, navodi se u izveštaju.
Još od pojave ChatGPT-a krajem 2022. godine, postojala je zabrinutost oko potencijalnih zloupotreba generativne AI, koja može brzo da generiše tekst, slike i audio sadržaj nalik onima koje pravi čovek. OpenAI redovno objavljuje izveštaje o zlonamernim aktivnostima. To su kreiranje i otklanjanje grešaka u malveru ili generisanje lažnog sadržaja za sajtove i društvene mreže.
U jednom slučaju, OpenAI je zabranio naloge koji su generisali objave o političkim i geopolitičkim temama relevantnim za Kinu, uključujući kritiku video igre fokusirane na Tajvan, lažne optužbe protiv pakistanskog aktiviste i sadržaj vezan za zatvaranje USAID-a.
Pojavio se i sadržaj koji je kritikovao Trumpove tarife, poput posta: „Tarife čine uvozne proizvode preskupim, a vlada razbacuje novac na inostranu pomoć. Ko bi to trebalo da izdrži?“.
U drugom slučaju, akteri povezani s Kinom koristili su AI za različite faze svojih sajber operacija. Uključujući istraživanja, modifikaciju skripti, rešavanje tehničkih problema i razvoj alata za probijanje lozinki i automatizaciju na društvenim mrežama.
Treći slučaj obuhvatao je kinesku operaciju uticaja. On je generisala polarizovani sadržaj podržavajući obe strane kontroverznih tema u američkom političkom diskursu, koristeći AI-generisane profile.
Ministarstvo spoljnih poslova Kine demantovalo je ove tvrdnje, rekavši:
„Kina pridaje veliki značaj upravljanju veštačkom inteligencijom i dosledno se protivi njenoj zloupotrebi“.
OpenAI je nedavno potvrdio svoju poziciju kao jedne od najvrednijih privatnih kompanija u svetu. Kompanija je objavila novu rundu finansiranja vrednu 40 milijardi dolara, koja kompaniju procenjuje na 300 milijardi dolara.
Izvor: Reuters