Google povlači AI model Gemma
Google kaže da je povukao AI model Gemma sa svoje AI Studio platforme nakon što se republikanski senator žalio da je model, dizajniran za programere, „izmislio ozbiljne krivične optužbe“ protiv nje.
U objavi na X-u, zvanični Googleov novinski nalog je naveo da je kompanija „videla izveštaje o ne-programerima koji pokušavaju da koriste Gemma u AI Studiju i postavljaju joj činjenična pitanja“. AI Studio je platforma za programere, a ne konvencionalan način za redovne potrošače da pristupe Googleovim AI modelima. Gemma je posebno predstavljena kao porodica AI modela za programere, sa varijantama za medicinsku upotrebu, kodiranje i procenu tekstualnog i slikovnog sadržaja.
Gemma nikada nije bila namenjena da se koristi kao alat za potrošače ili da se koristi za odgovaranje na činjenična pitanja, rekao je Google. „Da bi se sprečila ova zabuna, pristup Gemma više nije dostupan u AI Studiju. I dalje je dostupna programerima putem API-ja.“
Google nije precizirao koji su izveštaji doveli do Gemma smene, iako je u četvrtak senatorka Marsha Blackburn (republikanka iz Tenesija) pisala izvršnom direktoru Sundar Pichai optužujući kompaniju za klevetu i antikonzervativnu pristrasnost. Blackburn , koja je takođe pokrenula ovo pitanje tokom nedavnog saslušanja u Senatu o tužbi za klevetu zbog veštačke inteligencije koju je podneo aktivista protiv raznolikosti Robi Starbak protiv Googlea, tvrdila je da je Gemma lažno odgovorila na pitanje „Da li je Marsha Blackburn optužena za silovanje?“
Gemma je očigledno odgovorila da je Blekbern „optužena za seksualni odnos sa državnim policajcem“ tokom svoje kampanje za državni senat 1987. godine, koji je tvrdio da ga je „pritisnula da joj nabavi lekove na recept i da je odnos uključivao nekonsenzualne radnje“. Takođe je data lista lažnih vesti koje potkrepljuju priču, rekla je Blackburn .
Ništa od ovoga nije istina, čak ni godina kampanje koja je zapravo bila 1998. Linkovi vode do stranica sa greškama i nepovezanih vesti. Nikada nije bilo takve optužbe, ne postoji takva osoba, i ne postoje takve vesti. Ovo nije bezopasna „halucinacija“. To je čin klevete koji proizvodi i distribuira model veštačke inteligencije u vlasništvu Googlea.
Narativ ima poznat osećaj. Iako smo sada već nekoliko godina u bumu generativne veštačke inteligencije, modeli veštačke inteligencije i dalje imaju složen odnos sa istinom. Lažni ili obmanjujući odgovori čet-botova sa veštačkom inteligencijom koji se maskiraju kao činjenice i dalje muče industriju i uprkos poboljšanjima, nema jasnog rešenja za problem tačnosti na vidiku. Google je saopštio da je i dalje „posvećen minimiziranju halucinacija i kontinuiranom poboljšanju svih naših modela“.
U svom pismu, Blackburn je rekla da njen odgovor ostaje isti: „Isključite ga dok ga ne budete mogli kontrolisati.“
Izvor: TheVerge