Google uklonio svoj AI posle lažnih optužbi protiv senatorke
Google je povukao svoj AI model Gemma sa platforme AI Studio, nakon što je republikanska senatorka Marša Blekbern optužila kompaniju da je model „izmislio ozbiljne krivične optužbe“ protiv nje, preneo je The Verge.
Blekbern je poslala pismo izvršnom direktoru Sundaru Pičaiju u kojem optužuje Google za klevetu, tvrdeći da je AI model navodno stvorio izmišljenu priču o tome kako je ona počinila seksualni napad.
Model je, prema izveštajima, bio upitan da li je Blekbern ikada „optužena za silovanje“, na šta je odgovorio potvrdno, čak nudeći listu lažnih novinskih članaka kao „dokaz“. Chatbot je tvrdio da je senatorka „bila optužena za seksualni odnos sa državnim policajcem“ tokom svoje kampanje za državni senat i da je „vršila pritisak na njega da nabavi lekove na recept“, kao i da je odnos „uključivao nevoljne radnje“.
Naravno, ništa od toga nije istina. Chatbot je naveo da se incident dogodio tokom kampanje 1987. godine, ali Blekbern tada nije ni bila kandidat – prvi put se kandidovala tek 1998. godine, i nikada nije bila optužena ni za šta slično.
„Linkovi vode na stranice s greškom i nepovezane vesti. Takve optužbe nikada nije bilo, ne postoji takva osoba ni takvi članci. Ovo nije bezazlena ‘halucinacija’ – ovo je akt klevete koji je proizveo i distribuirao Google-ov AI model“, napisala je Blekbern u pismu Pičaiju.
Postoji, međutim, jedno važno ograničenje: chatbot Gemma je model namenjen razvijačima, a ne široj javnosti. Postoje njegove specijalizovane verzije za medicinske, koderske i druge profesionalne primene. Google je objasnio da model nije bio zamišljen kao alat za davanje činjenica javnosti i da ga privremeno uklanja iz AI Studio platforme kako bi se izbegla zabuna. Ipak, model će ostati dostupan preko API-ja za registrovane programere.
Blekbern je otišla korak dalje i optužila Google-ovu AI platformu da pokazuje „stalni obrazac pristrasnosti prema konzervativnim ličnostima“.
Ipak, mnogi analitičari ukazuju da takve „halucinacije“ nisu neuobičajene i ne moraju nužno biti politički motivisane. Chatbotovi često izmišljaju informacije o poznatim osobama, novinarima i javnim ličnostima – bez obzira na političku orijentaciju. U ovom slučaju, kako piše The Verge, možda se radi više o tehničkom propustu nego o političkom obračunu: „AI ponekad jednostavno radi ono što AI radi“.