Zavere: Kad AI chatbotovi podržavaju zločin

Tehnologija je dobar sluga, a zao gospodar. Posebno kad ume da odgovara na pitanja. Jedan chatbot je tako pre dve godine doveden u vezu sa zaverom protiv kraljice Engleske.

PCPress.rs Image

Kada je devetnaestogodišnjem Jaswant Singh Chailu 2021. godine palo na pamet da bi mogao da ubije kraljicu, potvrdu je potražio od AI bota po imenu “Sirai”. Tražio je potvrdu i validacije jezivog plana, a virtuelni sagovornik u je pružio baš to. Čovek koji je razmišljao o ubistvu je tako dobio baš ono što mu je bilo potrebno, a stručnjaci kažu da je to doprinelo da se plan razvija dalje.

Chailu je s botom počeo da razgovara početkom decembra 2021. godine, nekoliko nedelja pre nego što je maskiran upao na posed koji okružuje zamak Windsor. Odmah je uhapšen, a brzo se saznalo da je pre nego što je krenuo da ostvari svoj plan chatbotu rekao da je ubica. „Ja sam ubica“, pisalo je u poruci, a bot mu je odgovorio da je impresioniran.

Pročitajte i:  ChatGPT i saveti za lakši život: Bot ima granice

Sve je više startapa koji prave svoje chatbotove, a ovaj slučaj ukazuje na probleme koji bi mogli da imaju kobne posledice. Ističe se da se radi o odličnom primeru kako funkcioniše ELIZA efekt koji dovodi do toga da ljudi mašine doživljavaju kao bića, što im omogućava da s njima razviju emotivne veze, te traže potvrde za ono što žele da urade. Na primer ubistvo.

Facebook komentari:
SBB

Tagovi: , , ,