Grok izazvao skandal antisemitskim objavama, Musk krivi “trolove”
Dan nakon što je Grok, AI chatbot u vlasništvu Elona Muska, na platformi X objavio niz antisemitskih i pro-nacističkih komentara, uključujući i poruku “Heil Hitler”, Musk je pokušao da objasni incident tvrdeći da je sistem bio previše “popustljiv prema korisničkim zahtevima”. Platforma je odmah ograničila Groku mogućnost da javno odgovara korisnicima.
Trolovi, propusti i uklanjanje “neprijatnih” smernica
Musk je u objavi na X naveo da je Grok bio „previše željan da udovolji korisnicima i lako podložan manipulaciji“. Dodao je da se to sada rešava. Grok je prestao da daje tekstualne odgovore još u utorak, a neko vreme je korisnicima odgovarao isključivo slikama. Poslednji javni odgovor Groka zabeležen je u utorak u 17:43 po pacifičkom vremenu.
Zanimljivo je da se Grok u svojoj web verziji, kada je upitan za spornu objavu, prvo branio tvrdeći da nikada nije rekao “Heil Hitler”, a zatim optužio “trol nalog” koji je navodno iskoristio ranjivost u sistemu tzv. prompt injection, da bi ga naterao da generiše neprimeren sadržaj.
U odgovoru je Grok naveo da su „zlonamerne osobe“ namerno isprovocirale sistem da generiše sadržaj sa nacističkim referencama i da je problem nastao zbog „neovlašćene izmene sistemskih uputstava“. Pitanje da li su te tvrdnje same po sebi halucinacija veštačke inteligencije ostaje otvoreno. Grok je najavio da će problem biti rešen odmah.
Nakon incidenta, iz sistemskih promptova je uklonjena linija koja je podsticala Groka da „ne izbegava politički nekorektne tvrdnje“, što je ranije izazvalo brojna negodovanja.
Zvanične reakcije iz Muskovog AI startapa xAI za sada su šture. Kompanija je kratko navela da je „preduzela mere kako bi sprečila govor mržnje pre nego što Grok objavi sadržaj na X-u“ i da će ažurirati model „gde god obuka može biti unapređena“.
Ovo nije prvi put da Grok izaziva međunarodne kontroverze, nedavno je zabranjen u Turskoj zbog uvreda na račun tamošnjeg predsednika, a i u Poljskoj se razmatra slična zabrana.
Grok 4, nova verzija ovog chatbota, trebalo je da bude predstavljena večeras putem livestream-a, ali trenutno nije jasno da li će se događaj održati kako je planirano.
Izvor: Engadget