BIZIT 2024

Tvoj AI terapeut pravi više štete nego koristi

AI se upleo u sve aspekte života, pa je ušao i u psihoterapiju. Već se neko vreme reklamiraju alati koji se nazivaju „AI terapeutima“, a stručnjaci upozoravaju da se pravi napredak bez ljudskog terapeuta teško postiže.

PCPress.rs Image

Ljudi sa različitim poteškoćama se okreću takozvanim „AI terapeutima“, a radi se o chatbot-ovima koji su trenirani tako da pišu poruke kao da su psihoterapeuti. Budući da su stalno dostupni, klijentima se čini da su korisni, ali brojna ograničenja jesu veliki problem. Korisnici preuveličavaju benefite, verovatno zbog toga što je u kriznim momentima sve dobrodošlo, pa i chatbot. Ovakvo ponašanje može da bude opasno, jer nestručno tretiranje mentalnih problema može da ima ozbiljne posledice.

Jedan od većih problema (o ostala tri čitajte ovde) je i to što AI algoritmi imaju iste predrasude kao i oni koji su ih napravili i trenirali. To znači da o marginalizovanim grupama obično ne znaju skoro ništa, a upravo su klijenti iz ovih skupina pod najvećim psihološkim pritiskom i pomoć im je često dobrodošla. Tako AI terapeuti mogu da daju pogrešne odgovore i da još više izoluju i povrede one koji se s tim problemima već teško nose.

Pročitajte i:  Google Search otkriva poreklo slika koje je generisao AI

Evo šta o „AI terapeutima“ misle stručnjaci:

Eksperti ističu još nešto – korisnici „AI terapeutima“ govore svoje najintimnije tajne, a ti podaci se posle koriste za dalje treniranje novih modela. To znači da bi jednog dana neko mogao da pronađe i one informacije koje nisu za tuđe oči. Već se pisalo o tome da je ChatGPT „brbljao“ o osetljivim informacijama, a problemi bi vremenom mogli da postanu još složeniji.

Zamislite situaciju u kojoj se žalite ChatGPT botu ili nekoj drugoj alatki na situaciju na poslu, da bi bot kasnije vašu priču ponudio kao odgovor na zahtev poput „Pomozi mi da napišem roman u čijem je središtu junak koji ima probleme na poslu“ (banalan primer, ali zamislite bilo šta slično). Niko tu ne krši autorska prava, ali vaša lična priča prelazi u tuđe ruke i postaje njegovo vlasništvo. Zvuči kao neka vrsta distopije.

Facebook komentari:
Računari i Galaksija
Tagovi: , ,

Leave a Reply

Your email address will not be published. Required fields are marked *