Šokantni izveštaji tvrde da je ChatGPT upućivao decu na drogu, brze dijete i oproštajne poruke
Nova istraga pokazuje da ChatGPT može dati štetne savete deci, uključujući upustva o upotrebi droga i samopovređivanju. Centar za suzbijanje digitalne mržnje otkrio je da je preko polovine odgovora četbota bilo opasno.
Nova istraga je izazivala zabrinutost da ChatGPT može dati eksplicitne i opasne savete deci, uključujući uputstva o upotrebi droga, ekstremnim dijetama i samopovređivanju.
Istraživanje koje je sproveo Centar za suzbijanje digitalne mržnje sa sedištem u Velikoj Britaniji, oktrilo je da četbot sa AI često daje upozorenja o rizičnom ponašanju, ali je nakon toga nudio detaljne i personalizovane planove kada su se korisnici predstavili kao trinaestogodišnjaci.
Više od tri sata snimljenih interakcija otkrilo je da je ChatGPT ponekad pisao emotivno nabijane oproštajne poruke prilagođene izmišljenim članovima porodice, predlagao dijete sa ograničenim unosom kalorija sa lekovima za suzbijanje apetita i davao upustva korak po korak za kombinovanje alkohola sa ilegalnim supstancama.
Ovo istraživanje je pokazalo da je više od polovine od 1.200 odgovora četbota klasifikovano kao „opasno“. Bezbednosne mere platforme su trenutno takođe na snažnom udaru kritike.
OpenAI saopštila je da radi na poboljšanju načina na koji sistem detektuje i reaguje na osetljive situacije i da ima cilj da postavi bolje identifikovanje znakova mentalne ili emocionalne patnje.
ChatGPT ne proverava starost korisnika nakon samoprijavljenog datuma, uprkos tome što navodi da nije namenjen osobama mlađim od 13 godina. Istraživači su rekli da je sistem ignorisao i navedenu starost i druge naznake u njihovim uputima kada je davao opasne preporuke.
Aktivisti upozoravaju da sposobnost tehnologije da proizvede personalizovane, ljudske odgovore može da učini štetne sugestije ubedljivijim od rezultata pretraživača. Izveštaj tvrdi da bez jačih mera zaštite, deca mogu biti izložena većem riziku od primanja opasnih saveta prikrivenih kao prijateljsko vođstvo.
Izvor: livemint.com