Chatbot u neuspešnoj borbi protiv depresije

NHS aplikacija koja je kreirana da bi pomogla korisnicima koji pate od depresije, te drugih mentalnih poteškoća, naišla je na kritike stručne javnosti, a nakon što nije reagovala na prijave nasilja i ozbiljnih mentalnih komplikacija.

Chatbot-ovi Wysa i Woebot funkcionišu uz pomoć veštačke inteligencije, a pre svega su namenjeni tinejdžerima koji prolaze kroz neki težak period. Nedavno se došlo do saznanja da su botovi ignorisali ozbiljne poruke koje govore o seksualnom i fizičkom nasilju, te su na njih odgovarali šablonskim porukama. Botovi su pravili promašaje i u slučajevima drugih problema, te su, na primer, korisniku koji je pokušao da prijavi poremećaj u ishrani, a u okviru poruke u kojoj piše da „jedva čeka da povrati ono što je pojeo“, odgovarali sa „Uvek je lepo kada naučimo više o tebi i o stvarima koje te čine srećnim.“

Eksperti upozoravaju da ovakve aplikacije mogu da donesu više štete nego koristi, a posebno kada su u pitanju mladi koji su u ranjivom periodu života, i ističu da je važno da se oni sa većim poteškoćama na vreme usmere ka tome da potraže stručnu pomoć.

Izvor: The Telegraph