Google upozorava na halucinacije chatbotova

Google je upozorio korisnike na zamke veštačke inteligencije koja se koristi za dopisivanje, rekavši da je moguća „halucinacija“, uvredljiv ili potpuno izmišljen odgovor.

Šef Googla je upozorio na zamke koje su moguće u toku razgovora sa veštačkom inteligencijom. „Kod ove vrste veštačke inteligencije o kojoj trenutno govorimo može da se pojavi nešto što zovemo halucinacija.“

ChatGPT od kada se pojavio trese tržište. Međutim, u sredu se dogodilo „bag“ pa je pametna mašina podelila netačne informacije u promotivnom videu što je kompaniju koštalo 100 milijardi dolara.

Promotivni video snimak ima neku prodajnu ulogu čak i onda kada izgleda da je „pogrešio“. Ranjivost AI i mogućnost omaški ga čine „živim“. Sa jedne strane, niko ne želi da ispred sebe ima super pametnu mašinu koja demostrira svoju nadmoć nad korisnikom. Tako se veći broj ironičnih klijenata smiruje u pogledu ispravnosti njihovog stava. Sa druge strane, su pak korisnici koji žele da imaju vodiča u pametnoj mašini i koji tek sada isčekuju novo ažuriranje koje bi otklonilo ovakav bag.

Bez obzira, kojoj grupi korisnika ili navijača pripadamo, ChatGPT je zaista nova pojava koju treba posmatrati kao pionira u odnosu na ono što naš u tehnologiji očekuje. Izmene i ovakvi problemi daju osnovu za dalji razvoj i prevazilaženje uočenih grešaka u okvirima mogućnosti. Tokom ove godine, moguće je očekivati drastične promene u tehnologiji i značajan prodor AI u primeni.

Izvor: reuters.com