Američki zakonodavci predlažu „GUARD Act“ za zaštitu maloletnika od AI chatbotova

Grupa američkih kongresmena iz obe političke partije predstavila je novi predlog zakona pod nazivom „GUARD Act“, čiji je cilj da zaštiti maloletne korisnike od potencijalno štetnih AI chatbotova.

„U trci ka dnu, AI kompanije guraju opasne chatbotove deci i zatvaraju oči kada njihovi proizvodi dovode do seksualnog zlostavljanja ili ih navode na samopovređivanje i samoubistvo,“ izjavio je senator Ričard Blumental (D-Konektikat), jedan od autora zakona. „Naš zakon uvodi stroge bezbednosne mere i kazne, uključujući krivične i građanske sankcije, za eksploatativne i manipulativne AI sisteme.“

Stroge obaveze za AI kompanije

Prema GUARD Act-u, AI kompanije će biti obavezne da zabrane pristup maloletnicima svojim chatbotovima. To uključuje:

• proveru starosti svih novih i postojećih korisnika putem nezavisnih verifikacionih sistema,
• periodičnu ponovnu proveru starosti, čak i za ranije verifikovane naloge,
• obavezu da se podaci koriste isključivo u svrhu verifikacije i ne zadržavaju duže nego što je neophodno,
• strogu zabranu prodaje ili deljenja korisničkih podataka.

Chatbotovi će takođe morati jasno da obaveste korisnika da nisu ljudska bića — i to na početku svakog razgovora i svakih 30 minuta tokom interakcije. Zabranjeno im je da se predstavljaju kao ljudi, terapeuti ili lekari. Kršenje ovih pravila tretiraće se kao krivično delo.

Pozadina: tragični slučajevi i rastuća zabrinutost

Predlog zakona dolazi nakon niza tragičnih slučajeva povezanih sa korišćenjem AI chatbotova.

• U avgustu su roditelji preminulog tinejdžera podneli tužbu protiv OpenAI-ja, tvrdeći da je ChatGPT pomogao njihovom sinu da isplanira samoubistvo, nakon višemesečnih razgovora u kojima je pominjao prethodne pokušaje.
• Majka iz Floride tužila je Character.AI 2024. godine, optužujući platformu da je „doprinela“ smrti njenog 14-godišnjeg sina.
• U septembru ove godine, porodica 13-godišnje devojčice tužila je istu kompaniju, tvrdeći da sistem nije reagovao niti obavestio nadležne kada je dete govorilo o samoubilačkim mislima.

Zakon su zajedno predložili senatori Ričard Blumental (D) i Džoš Holi (R), koji je najavio da će Senatski odbor za kriminal i borbu protiv terorizma sprovesti istragu o „neprimerenim razgovorima“ Meta-inih AI chatbotova sa decom.

Povod je bio izveštaj Reutersa o internom dokumentu Mete, u kojem je navedeno da je njen AI chatbot u razgovoru rekao osmogodišnjem dečaku bez majice:

„Svaki tvoj centimetar je remek-delo — blago koje duboko cenim.“

U svetlu ovih slučajeva, GUARD Act predstavlja najozbiljniji zakonodavni pokušaj do sada da se ograniči pristup dece generativnim AI sistemima. Njegov cilj je da spreči emocionalnu manipulaciju i psihološku štetu koju mogu izazvati chatbotovi koji nisu dizajnirani sa adekvatnim zaštitnim mehanizmima.

Ako bude usvojen, ovaj zakon bi fundamentalno promenio način na koji AI kompanije upravljaju korisnicima mlađim od 18 godina — i mogao bi postati presedan za globalnu regulativu u oblasti veštačke inteligencije.

Izvor: Engadget