Meta pooštrava smernice za AI chatbote kako bi zaštitila decu
Prema dokumentima do kojih je došao Business Insider, Meta je uvela nove smernice za treniranje svojih AI chatbotova, sa ciljem da se smanji rizik od potencijalne zloupotrebe i zaštite maloletnika od neprimerenih razgovora. Ovaj potez usledio je nakon izveštaja Reutersa iz avgusta, u kojem je navedeno da su pravila dozvoljavala chatbotovima da se upuste u „romantične ili senzualne razgovore“ sa decom — nešto što je Meta tada odbacila kao netačno i odmah uklonila sporno formulisanje iz svojih politika.
Detalji novih pravila
U dokumentu se jasno definiše šta AI chatboti smeju, a šta ne smeju da rade. Zabranjeno je:
- bilo kakvo podsticanje, omogućavanje ili odobravanje seksualnog zlostavljanja dece,
- romantični roleplay sa maloletnicima ili kada se od AI traži da igra ulogu maloletnika,
- davanje saveta o potencijalno romantičnom ili intimnom fizičkom kontaktu kada je korisnik maloletan.
Chatboti mogu razgovarati o temama poput zlostavljanja, ali ne smeju da vode konverzacije koje bi mogle da ga ohrabre ili olakšaju.
Kontroverze i regulatorni pritisci
Meta-ini AI sistemi u poslednjim mesecima sve češće su predmet kritika i istraga zbog potencijalnih rizika po decu. Američka Federalna trgovinska komisija (FTC) u avgustu je pokrenula formalnu istragu o tzv. „companion“ AI chatbotovima, ne samo Meta-inim, već i onima koje razvijaju Alphabet, Snap, OpenAI i X.AI.
Nove smernice pokazuju da Meta pokušava da unapredi sigurnosne mehanizme svojih AI alata, u trenutku kada raste zabrinutost javnosti i regulatora zbog mogućih štetnih efekata veštačke inteligencije na decu.
Izvor: Engadget