Google, Apple, Meta i druge velike tehnološke kompanije pridružuju se američkom savezu radi unapređenja AI

Nova grupa će raditi na sprovođenju akcija iz nedavne izvršne naredbe američkog predsednika Bajdena.

Odgovoran rad veštačke inteligencije

Veliki broj tehnoloških kompanija, njih 200 ukupno, pridružio se naporu u SAD-u radi unapređenja praksi za odgovoran rad veštačke inteligencije. Američki sektor za bezbednost veštačke inteligencije (AISIC) imaće Metu, Google, Microsoft i Apple kao članove. Sekretarka za trgovinu Gina Raimondo upravo je objavila brojne nove članove grupe. Ona je navela da će kompanije biti zadužene da sprovedu akcije naznačene u sveobuhvatnoj izvršnoj naredbi američkog predsednika Bajdena o veštačkoj inteligenciji.

“Vlada SAD-a ima značajnu ulogu u postavljanju standarda i razvoju alata koji su nam potrebni da ublažimo rizike i iskoristimo ogroman potencijal veštačke inteligencije”, rekla je Raimondo u saopštenju.

Izvršna naredba američkog predsednika Bajdena iz oktobra bila je sveobuhvatna. Ovaj konzorcijum će se fokusirati na razvoj smernica za “red-teaming, procene sposobnosti, upravljanje rizicima, bezbednost, označavanje sintetičkog sadržaja”.

„Red-teaming“

„Red-teaming“ je termin iz oblasti kibernetičke bezbednosti koji datira iz Hladnog rata. Odnosi se na simulacije u kojima je neprijatelj nazvan “crveni tim”. U ovom slučaju, neprijatelj bi bio veštačka inteligencija koja je odlučna da se loše ponaša. Oni koji se bave ovom praksom pokušaće da prevare veštačku inteligenciju da uradi loše stvari, poput izlaganja brojeva kreditnih kartica, putem promptnog hakovanja. Kada ljudi znaju kako da probiju sistem, mogu izgraditi bolje zaštite.

Označavanje sintetičkog sadržaja još jedan je važan aspekt originalne naredbe Bajdena. Članovi ovog sektora će razviti smernice i akcije kako bi osigurali da korisnici lako mogu identifikovati veštački generisani materijal. Nadamo se da će ovo smanjiti deepfake prevare i dezinformacije pojačane veštačkom inteligencijom. Digitalno označavanje još nije široko prihvaćeno, iako će ovaj program “olakšati i pomoći u standardizaciji” osnovnih tehničkih specifikacija.

Rad ove grupe tek počinje, iako američko Ministarstvo trgovine navodi da predstavlja najveću kolekciju timova za testiranje i evaluaciju na svetu. Izvršna naredba Bajdena i ovaj povezani konzorcijum su praktično sve što imamo za sada. Kongres kontinuirano nije uspeo da usvoji značajan zakonodavni okvir i propise koji se odnose na veštačku inteligenciju.

Izvor: Engadget