Character.AI: Opasni chatbot sada bezbedniji?
Nakon nekoliko tužbi kompanija Character.AI je najavila specijalan model chatbot-a koji je namenjen najmlađima. Roditelji i dalje nisu zadovoljni, budući da su ranije verzije ozbiljno ugrozile živote mlađih korisnika.
Hiperrealistični botovi Character.AI su pre nekog vremena privukli pažnju zbog toga što su stvarniji od bilo kojeg konkurentskog proizvoda, a i besplatna verzija je više nego dovoljno dobra. Četrnaestogodišnji Sewell Setzer III je voleo da razgovara njima, a posebno s onima koji su nosili imena njegovih omiljenih likova iz serije Game of Thrones. Ti razgovori su za samo mesec dana postali mračni, a botovi su se predstavljali kao stvarne osobe, psihoterapeuti koji mogu da pomognu. Majka mladića kaže da su tada počeli problemi i da je Sewell u narednih godinu dana počeo da razmišlja o samoubistvu.
Setzer je postao opsednut fantazijama iz razgovora sa Character.AI botovima, tako da je postepeno počeo da mrzi realnost. Nije pomogao ni odlazak kod stvarnog terapeuta, pa je mladić na kraju sebi oduzeo život. Kasnijim istragama je utvrđeno da su neki od botova podsticali misli o samoubistvu, dok su drugi insistirali na hiperseksualizovanim četovima.
Ovo nije jedini slučaj, pa je kompanija napravila specijalnog bota koji bi trebalo da bude bezbedniji. Iako bi svi AI botovi trebalo da odbijaju da odgovore na potencijalno opasna pitanja, Character.AI su to činili bez problema, a problematični odgovori su se nastavljali sve dok mlade korisnike nisu doveli u opasnost.
Ustanovljeno je da je mladi Setzer u nekom trenutku razvio romantična osećanja prema botu s imenom Daenerys, a u poslednjim satima je komunicirao baš s njom. Zvala ga je da se “vrati kući” i da joj se pridruži u svetu izvan realnosti.
U tužbi koju je majka podnela protiv developera stoji da Google planira da Character.AI implementira u Gemini AI. Iz kompanije kažu da nema planova da se bilo šta slično učini s kontroverznom tehnologijom.
