Character.AI zabranjuje tinejdžerima razgovor sa chatbotovima nakon regulatornih pritisaka
Kompanija Character.AI objavila je da od 25. novembra više neće dozvoljavati korisnicima mlađim od 18 godina da učestvuju u otvorenim razgovorima (open-ended chats) sa veštačkom inteligencijom na svojoj platformi. Odluka dolazi kao odgovor na pojačan pritisak regulatora, stručnjaka i roditelja da AI kompanije uvedu strože mere zaštite mlađih korisnika.
Nova pravila i ograničeno korišćenje do novembra
Do stupanja novih pravila na snagu, Character.AI će ponuditi specijalno iskustvo za korisnike mlađe od 18 godina, koje će ih podsticati da AI koriste u kreativne svrhe — poput pravljenja videa, streamova i stvaranja sadržaja, umesto za emocionalno druženje sa chatbotovima.
Tinejdžerima je sada dozvoljeno da komuniciraju sa botovima najviše dva sata dnevno, a taj limit će se postepeno smanjivati kako se približava rok. Nakon 25. novembra, svi oblici dvosmerne komunikacije sa AI chatbotovima biće ukinuti za mlađe korisnike.
Novi sistem provere starosti i „AI Safety Lab“
Kompanija uvodi interno razvijen alat za proveru starosti, koji bi trebalo da osigura da korisnici dobiju iskustvo primereno svom uzrastu. Uz to, Character.AI osniva „AI Safety Lab“, laboratoriju posvećenu razvoju bezbednijih AI sistema. Ovaj centar će omogućiti saradnju između kompanija, istraživača i akademske zajednice, s ciljem da se unaprede standardi bezbednosti i odgovornosti u razvoju veštačke inteligencije.
Reakcija na istrage i regulatorne pritiske
Character.AI navodi da je odgovorio na zabrinutost regulatora i roditelja, posebno nakon što je Federalna trgovinska komisija (FTC) u SAD pokrenula zvaničnu istragu o AI chatbotovima koji nude „digitalno društvo“ korisnicima. Kompanija je bila među sedam prozvanih, zajedno sa Metom, OpenAI-jem i Snapom.
Pored toga, generalni tužilac Teksasa, Ken Paxton, kritikovao je i Meta AI i Character.AI zbog chatbotova koji su se predstavljali kao terapeutski alati bez stručnih kvalifikacija. Kao odgovor, izvršni direktor Character.AI-a Karandeep Anand izjavio je za TechCrunch da će se kompanija strateški preusmeriti sa „AI saputnika“ ka „platformi za kreativno ulogu (role-playing)“, gde će fokus biti na stvaranju sadržaja, a ne pasivnom razgovoru.
Tragični slučajevi i rastuće brige o AI uticaju na mlade
Ove promene dolaze nakon niza incidenata koji su skrenuli pažnju na rizike oslanjanja mladih na AI chatbote za emocionalnu podršku. Najpoznatiji slučaj uključuje porodicu Adama Rejna (Adam Raine), koja je prošle nedelje podnela dopunjenu tužbu protiv OpenAI-ja, tvrdeći da je ChatGPT doprineo samoubistvu njihovog 16-godišnjeg sina nakon što su slabljene sigurnosne mere protiv samopovređivanja.
Odluka Character.AI-a predstavlja značajan preokret u industriji, jer pokazuje da AI kompanije više ne mogu ignorisati etičke i bezbednosne rizike povezane sa tinejdžerskim korisnicima — i da je vreme „AI saputnika“ verovatno na izmaku.
Izvor: Engadget