AI halucinacija: Kad novine preporuče knjige koje ne postoje

Novine i portali često preporučuju knjige, serije i filmove, a čitaoci te liste obožavaju. Niko ni ne sumnja da bi naslovi na tim spiskovima mogli da budu lažni, jer zašto bi neko o tome lagao? U doba AI alata takve stvari se ipak dešavaju.

Chicago Sun-Times je objavio jednu baš takvu listu, a problem je u tome što 66% preporučenih knjiga ne postoji – novinari su naveli lažne naslove pravih autora. Deset neistina je tako zagadilo letnju listu dobrih knjiga, a među njima je i nepostojeća knjiga Isabel Allende. AI system je naslove izmislio, ali teško da je veštačka inteligencija kriva – korisnici su ti koji se neodgovorno ponašaju kada je korišćenje ovih alata u pitanju.

Uprkos tome što se već pisalo o brojnim slučajevima u kojima su AI halucinacije ugrozile nečiju karijeru, te tome što ispod ChatGPT polja za razgovor piše da je informacije koje bot da neophodno proveriti, korisnici i dalje veruju da je sve što neki chatbot napiše tačno. Među njima se našao i novinar Marco Buscaglia, koji je kreirao spornu listu, a u jednom razgovoru je potvrdio da je za pravljenje spiska koristio AI.

Buscaglia je istakao da uvek proverava činjenice koje dobije od AI botova, ali ovoga puta to nije učinio. Čitaoci su brzo ukazali na grešku i stranicu iz novina podelili na društvenim mrežama. Istina je da lažne knjige neće nikoga ubiti, ali ovaj primer potvrđuje da se Ai neodgovorno koristi.

Zamislite sad da neko veruje da ChatGPT može da bude lekar, psihoterapeut ili savetnik bilo koje vrste, e to je već druga stvar, opasnija (ChatGPT će doduše, ako ga pitate, napisati da nije terapeut i da su za rešavanje problema neophodni stručnjaci od krvi i mesa).