OpenAI zbog loših rezultata ukinuo detektor AI tekstova
Bez ikakve pompe, OpenAI je u četvrtak, 20. jula, ugasio AI Classifier, eksperimentalni alat koji detektuje AI pisane tekstove. Razlog za ukidanje je veoma nizak nivo preciznosti ovog alata.
AI Classifier je predstavljen 31. januara, a najviše su ga koristili nastavnici koji su pokušavali da otkriju da li su učenici koristili ChatGPT prilikom pisanja eseja i domaćih zadataka. Međutim, ispostavilo se da ovaj alat nije „potpuno pouzdan“, pošto je za šest meseci, koliko je bio aktivan, korektno identifikovao samo 26 procenata AI napisanih tekstova, dok je pogrešno označio oko devet procenata tekstova koje su napisali ljudi. Zbog toga su mnogi učenici lažno optuživani da su varali.
Takođe, ispostavilo se i da su nastavnici često bili u situaciji da tekstove koji su sami pisali, AI Classifier okarakteriše kao da ih je napisao AI. Jedna druga studija ukazala je da je mnogo veći stepen pogrešnog detektovanja bio kod tekstova koje su na engleskom pisali ljudi kojima engleski nije maternji jezik. Stoga je futurist Daiel Jeffries naveo da, ako OpenAI nije u stanju da napravi AI detektor koji radi, ne treba očekivati da će bilo ko drugi to uspeti. On smatra da takvi alati mogu da načine samo štetu i da im ne treba verovati.
Izvor: ArsTechnica
