Tvoj AI terapeut pravi više štete nego koristi
AI se upleo u sve aspekte života, pa je ušao i u psihoterapiju. Već se neko vreme reklamiraju alati koji se nazivaju „AI terapeutima“, a stručnjaci upozoravaju da se pravi napredak bez ljudskog terapeuta teško postiže.
Ljudi sa različitim poteškoćama se okreću takozvanim „AI terapeutima“, a radi se o chatbot-ovima koji su trenirani tako da pišu poruke kao da su psihoterapeuti. Budući da su stalno dostupni, klijentima se čini da su korisni, ali brojna ograničenja jesu veliki problem. Korisnici preuveličavaju benefite, verovatno zbog toga što je u kriznim momentima sve dobrodošlo, pa i chatbot. Ovakvo ponašanje može da bude opasno, jer nestručno tretiranje mentalnih problema može da ima ozbiljne posledice.
Jedan od većih problema (o ostala tri čitajte ovde) je i to što AI algoritmi imaju iste predrasude kao i oni koji su ih napravili i trenirali. To znači da o marginalizovanim grupama obično ne znaju skoro ništa, a upravo su klijenti iz ovih skupina pod najvećim psihološkim pritiskom i pomoć im je često dobrodošla. Tako AI terapeuti mogu da daju pogrešne odgovore i da još više izoluju i povrede one koji se s tim problemima već teško nose.
Evo šta o „AI terapeutima“ misle stručnjaci:
Eksperti ističu još nešto – korisnici „AI terapeutima“ govore svoje najintimnije tajne, a ti podaci se posle koriste za dalje treniranje novih modela. To znači da bi jednog dana neko mogao da pronađe i one informacije koje nisu za tuđe oči. Već se pisalo o tome da je ChatGPT „brbljao“ o osetljivim informacijama, a problemi bi vremenom mogli da postanu još složeniji.
Zamislite situaciju u kojoj se žalite ChatGPT botu ili nekoj drugoj alatki na situaciju na poslu, da bi bot kasnije vašu priču ponudio kao odgovor na zahtev poput „Pomozi mi da napišem roman u čijem je središtu junak koji ima probleme na poslu“ (banalan primer, ali zamislite bilo šta slično). Niko tu ne krši autorska prava, ali vaša lična priča prelazi u tuđe ruke i postaje njegovo vlasništvo. Zvuči kao neka vrsta distopije.
