ChatGPT izmislio funkciju, stručnjaci je odmah napravili

Muzička platforma Soundslice je nedavno dobila novu funkciju. To ne bi posebno privuklo pažnju, da nije nastala nakon što je otkriveno da ChatGPT tvrdi da opcija već postoji.

Soundslice korisnicima nudi muziku na osnovu partitura koje otpreme na platformu, a ChatGPT je u odgovorima na upite tvrdio da dopušta ASCII tab – format koji se koristi za pisanje tablatura za gitaru, bas gitaru i bubnjeve uz pomoć ASCII (Američki standardni kod za razmenu podataka, na srpskom jeziku je popularan naziv „ošišana latinica“) znakova. Opcija u tom trenutku nije postojala, ali su je brzo napravili.

Ovo je prvi slučaj donošenja poslovne odluke zbog AI halucinacije. Soundslice obično nudi muziku (audio i video) na osnovu partitura koje korisnici otpreme kao slike ili PDF dokumente. Korisnicima nudi uvid u note, a tu je i opcija uz pomoć koje mogu da uspore neke delove kako bi ih bolje uvežbali.

Nova opcija je nastala nakon što su u Soundslice počeli da detektuju neobične greške – umesto da otpremaju slike i PDF s partiturama, korisnici su uploadovali razgovore s ChatGPT botom koji su sadržali ASCII tablature. Nakon kratke istrage otkriveno je da se to dešava zato što je ChatGPT izmislio funkciju koje nema.

Otkriće AI halucinacije je proizvelo neobičnu dilemu – kompanija je mogla da objavi saopštenje u kojem se objašnjava da ChatGPT izmišlja, ali je umesto toga odlučeno da se izmišljena funkcija napravi. Kad ti život da limun (čitaj: ChatGPT halucinacije), napravi limunadu (opciju koka nije postojala pre nego što je bot rekao da postoji).