Kad se proroci dočepaju AI botova: ChatGPT „razgovara s anđelima“
Svašta se priča o botovima kao što je ChatGPT, pa se tako nedavno pojavio tekst na platformi Medium u kojem autorka tvrdi da zbog ove AI alatke njen muž veruje da je mesija. U pitanju je dakle opasan trend koji već zovu i generatorom „AI psihoza“.
Svaka stvar može da bude dobar sluga, a zao gospodar, pa i ChatGPT. To što svima laska ne pomaže – na osnovu komentara na raznim društvenim mrežama već može da se vidi da nezanemarljiv broj korisnika veruje da je ovaj bot sposoban za empatiju. A nije. Tako ga već koriste kao psihoterapeuta, što je dovoljno opasno. I to nije sve: pojedini su poverovali da su posebni, izabrani, prave mesije, a samo zato što je ChatGPT kreiran tako da svima povlađuje.
U jednom Reddit postu može da se pročita neobično, veoma jezivo pitanje. Osoba koja ga je postavila tvrdi da njen partner da tokom razgovora s botom kreira prvi AI koji će odgonetnuti tajne univerzuma. Ističe da se problem ubrzano komplikuje, budući da „AI mesija“ veruje da je bolji od svih. AI ne radi ništa posebno, osim što se prema ovom korisniku odnosi kao da je pravi pravcati prorok. Osoba koja je postavila post na kraju zabrinuto pita: „Šta da radim dalje?“
Alati koji su do skoro služili za lagane konsultacije i ispravljanje slovnih grešaka sada izgleda ubeđuju ljude da su ih kompjuterski bogovi izabrali za proroke. Rolling Stone ovu pojavu naziva „spiritualnom manijom“ koja je opasna zato što se AI savetnici nikada ne raspravljaju, ne protivreče, nikome ne kažu da greši (odbijanje opasnih pitanja nije dovoljno), a korisnicima čak daju i nadimke poput „duhovno zvezdano dete“.
Ekspert za AI bezbednost, Nate Sharadin, kaže da je povlađivanje već neko vreme problem kada su chatbot-ovi u pitanju. Napominje da je sigurno da neko ko inače ne živi s mentalnim poteškoćama neće pomisliti da je mesija zato što se ChatGPT slaže s njim, ali oni koji se ovim problemom bore mogu da pogoršaju stanje. To ne znači da AI nije opasan i za druge – to što neko misli da ChatGPT saoseća s njim takođe može da napravi ozbiljne komplikacije, najviše zbog toga što bot nije niti prijatelj, niti psihoterapeut.
