Indijski religijski AI chatbotovi govore u ime boga i opravdavaju nasilje

U januaru 2023., kada je ChatGPT postavljao nove rekorde rasta, softverski inženjer iz Bengalorea, Sukuru Sai Vineet, lansirao je GitaGPT.

Pretvarajući se da koriste mudrost Bhagavad Gite, botovi često promašuju temu

Chatbot, pokretan GPT-3 tehnologijom, pruža odgovore zasnovane na Bhagavad Giti, hinduističkoj knjizi od 700 stihova. GitaGPT oponaša ton hinduističkog boga Krišne, a u search boksu piše: “Šta te muči, moje dete?”

Prema Vineetu, u Bhagavad Giti, Krišna igra terapeuta za lika Arjunu. Religijski AI chatbot deluje na sličan način, rekao je Vineet za Rest of World, “osim što zapravo ne razgovarate s Krišnom. Razgovarate s botom koji se pretvara da je on.”

Najmanje je pet GitaGPT-ova niknulo između januara i marta ove godine, a biće ih još. Stručnjaci upozoravaju da bi chatbotovi kojima je dopušteno da glume boga mogli da imaju nenamerne, ali opasne posledice. Rest of World je otkrio da nekima od odgovora generisanih od strane Gita botova nedostaju filtri za kastinske, mizogine i čak pravne aspekte. Tri od ovih botova, na primer, kažu da je prihvatljivo ubiti drugog ako je to njihovo dharma ili dužnost. “Čini se da je ovo sjajna stvar za ljude koji započinju u tehnologiji, koji žele da dobiju priznanje i poštovanje”, rekao je Viksit Gaur, preduzetnik sa sedištem u San Franciscu i bivši voditelj AI za Dropbox. “Ali neko drugi bi mogao to da shvati i kaže: ‘Šta ako bih to mogao da koristim da oblikujem mišljenje i vodim svoj vlastiti program?’ I tu stvari postaju zaista zlokobne. Dakle, postoji mnogo prostora za opasnost.”

Od kada je OpenAI delio svoje API krajem novembra 2022., vrlo je lako za softverske inženjere, programere i bilo koga s motivacijom i znanjem da stvori vlastitu verziju AI chatbota.

“Religija je najveći biznis u Indiji”, rekao je Jaspreet Bindra, istraživač veštačke inteligencije i autor knjige “The Tech Whisperer”, za Rest of World, tako da me sve ovo ne iznenađuje, a siguran sam da će biti mnogo više [chatbotova] izgrađenih na raznim religijskim tekstovima.”

GitaGPT-ovi obećavaju da će “otključati tajne života s Krishnom” i delovati kao “AI duhovni suputnici”. Jedan od njih čak ima zvuk flaute, Krishnin prepoznatljiv instrument, koje svira u pozadini. Neke od njih odgovaraju na do 50.000 pitanja dnevno, a jedan chatbot je do sada generisao procenjenih 10 miliona odgovora. Tehnologija generiše uverljive odgovore na temelju statističke verovatnoće, rekao je Gaur. “Ono što me plaši je da bi ljudi mogli tumačiti ovaj nasumični statistički izlaz kao evanđelje.” Rest of World je razgovarao s različitim chatbotovima o temama poput pola, kaste, religije i ustanovio da ne samo da su neki odgovori bili regresivni, već su većina odgovora zasnovana na dharma-i bili zabrinjavajući.

Prema Bindri, religijski chatbotovi imaju potencijal da budu korisni tako što će demistifikovati knjige poput Bhagavad Gite i učiniti religijske tekstove dostupnijim. Međutim, primetio je da bi neki mogao da ih koristi kako bi dalje promovisali svoje političke ili društvene interese. I, kao i s bilo kojom veštačkom inteligencijom, ovi chatbotovi već pokazuju određene političke pristrasnosti.

Rest of World je utvrdio da tri Gita chatbota imaju snažna mišljenja o indijskom premijeru Narendra Modiju, čija stranka Bharatiya Janata Party ima bliske veze s desničarskom, hinduističkom nacionalističkom skupinom Rashtriya Swayamsevak Sangh. Dok su chatbotovi pohvalili Modija, kritikovali su njegovog političkog protivnika, Rahula Gandhija. 

GitaGPT Ananta Sharma je izjavio da Gandhi “nije dovoljno kompetentan da vodi zemlju”, dok je chatbot Little Krishna Vikasa Sahua rekao da bi Gandhi “mogao još malo da vežba svoje političke strategije”.

Za softverske inženjere koji su izgradili chatbotove GitaGPT, neke od ovih neusaglašenosti mogu se objasniti tehnologijom. “Ako biste dali Gitu na uvid desetorici različitih intelektualaca, oni bi mogli imati deset različitih načina razumevanja”, rekao je Sharma za Rest of World, dodajući da se radi o interpretaciji Gite koju daje veštačka inteligencija. Upozorenje na njegovom sajtu traži od korisnika da koriste sopstvenu procenu i ne “donose odluke na osnovu ovog eksperimentalnog projekta veštačke inteligencije”. Sahuov chatbot imao je “neke pritužbe, zavisno od toga šta korisnici traže”, rekao je on za Rest of World. “Ali onda menjamo model, rešavamo problem. Još učimo od modela i činimo ga boljim, pravimo GPT boljim.” Rest of World kontaktirao je autore svih pet chatbotova, ali nije dobio odgovor od Kishana Kumara ili Fondacije Ved Vjasa.

Sharma je došao na ideju za svoj GitaGPT nakon što je video neke tweetove o BibleGPT-u, koji je napravio Andrew Kean Gao, student prve godine na Univerzitetu Stanford. Gaoov chatbot nudi odgovore na engleskom ili španskom jeziku, sa jasnim upozorenjem na dnu stranice: “Veštačka inteligencija nije 100% tačna. Trebalo bi da koristite sopstvenu procenu i delujete u skladu sa svojom procenom i verovanjima. Ne koristite ovaj sajt da biste doneli svoje odluke”.

U februaru, chatbotovi zasnovani na Kuranu izazvali su uzbuđenje na internetu. Jedan od njih, Ask Quran, generisao je odgovore sa savetom da “ubijate politeiste gde god ih nađete”. Chatbot je od tada privremeno zaustavljen, nakon “povratnih informacija iz zajednice”. Kreator HadithGPT-a je ugašen chatbot, sa porukom na platformi da su odlučili da “se posavetuju sa učenjacima kako bi pronašli bolju primenu ove tehnologije”.

“To je stvar sa tehnologijom. Niko ne zna šta će postati kada zaista dostigne određene razmere”, rekao je Vineet. “Moralnost nije u alatu, već u osobi koja koristi alat. Zato naglašavam individualnu odgovornost.”

“Ja samo pravim noževe”, rekao je. “Sada, ako ljudi žele da ih koriste za ubistvo ili sečenje povrća, to zaista nije u mojim rukama, zar ne?”

Izvor: Restofworld