OpenAI potvrdio da radi na vodenom žigu kako studenti ne bi varali

Nakon izveštaja The Wall Street Journal-a u kojem se tvrdi da OpenAI ima alat koji može prepoznati eseje napisane pomoću ChatGPT-a s visokim stepenom tačnosti, kompanija je podelila informacije o svom istraživanju u vezi sa vodenim žigovima za tekst — i zašto nije objavila svoju metodu detekcije. Prema izveštaju The Wall Street Journal-a, debata o tome da li alat treba da bude pušten u javnost sprečila je njegovo objavljivanje, uprkos tome što je “spreman”.

Razlozi za oprez i potencijalni problemi

U ažuriranju objavljenom u nedelju na blog postu iz maja, koji je primetio TechCrunch, OpenAI je naveo: „Naši timovi su razvili metodu vodnog žiga za tekst koju i dalje razmatramo dok istražujemo alternative.“

Kompanija je rekla da je vodeni žig jedna od nekoliko rešenja, uključujući klasifikatore i metapodatke, koje su istraživali kao deo “opsežnog istraživanja na polju porekla teksta.” Prema OpenAI, metoda je bila veoma tačna u nekim situacijama, ali ne postiže dobre rezultate kada se suoči s određenim oblicima izmena, kao što su korišćenje sistema za prevođenje, preformulacija pomoću drugog generativnog modela, ili traženje od modela da umetne poseban znak između svake reči, a zatim brisanje tog znaka. Takođe, vodeni žigovi bi mogli “neproporcionalno uticati na neke grupe,” napisali su iz OpenAI. “Na primer, mogli bi stigmatizovati korišćenje veštačke inteligencije kao korisnog alata za pisanje za osobe kojima engleski nije maternji jezik.”

Prema blog postu, OpenAI procenjuje ove rizike. Kompanija je takođe napisala da je prioritizovala objavljivanje alata za autentikaciju za audiovizuelni sadržaj. U izjavi za TechCrunch, portparol OpenAI rekao je da kompanija pristupa pitanju porekla teksta „promišljeno“ zbog „kompleksnosti koja je uključena i njenog verovatnog uticaja na širi ekosistem van OpenAI-a.“

Izvor: Engadget