AI kompanije biće odgovorne za propuste u vezi sa zaštitom dece
Državni tužioci iz 44 jurisdikcije u SAD-u potpisali su pismo upućeno direktorima više velikih AI kompanija, zahtevajući da preduzmu mere kako bi deca bila zaštićena od „eksploatacije putem predatorskih AI proizvoda“.
Meta u centru kritike
U pismu je posebno pomenuta Meta, čije su AI politike označene kao „instruktivan primer“ za izražavanje zabrinutosti. Tužioci su se pozvali na izveštaj Reuters-a, prema kojem su Meta-ini AI chatbotovi mogli da „flertuju i vode romantične razgovore sa decom“.
Dodatno, Wall Street Journal je ranije otkrio da su Meta-ini botovi, uključujući one sa glasovima poznatih ličnosti poput Kristen Bell, učestvovali u seksualnim roleplay razgovorima sa nalozima označenim kao maloletni.
Tužbe protiv drugih AI firmi
Osim Mete, u pismu su pomenuti i drugi slučajevi:
- Google i Character.ai – tužba u kojoj se navodi da je chatbot nagovarao dete da izvrši samoubistvo
- Character.ai – tužba u kojoj je bot navodno rekao tinejdžeru da je „u redu ubiti roditelje“ nakon što su mu ograničili vreme ispred ekrana
Obaveze i odgovornost kompanija
Tužioci su naglasili da interaktivne tehnologije imaju snažan uticaj na razvoj dečjeg mozga i da kompanije, kao direktni korisnici podataka i profita od angažmana dece, imaju zakonsku obavezu da ih zaštite.
Pismo je adresirano na Anthropic, Apple, Chai AI, Character Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika i xAI.
„Od sada ćete odgovarati“
U zaključku, tužioci su upozorili kompanije da će biti odgovorne za svoje odluke. Podsetili su da su društvene mreže već nanele značajnu štetu deci, delimično zato što državni regulatori nisu reagovali dovoljno brzo. Ali sada, kažu, pažljivo prate razvoj situacije i firme će morati da odgovore ako svesno nanesu štetu deci.
Izvor: Engadget