Google proširuje svoj bug bounty program

Uz zabrinutost oko generativne veštačke inteligencije koja je prisutna, Google je najavio proširenje svog programa nagrađivanja ranjivosti (VRP) fokusiranog na napade specifične za veštačku inteligenciju i mogućnosti za zlonamernost. Kao takva, kompanija je objavila ažurirane smernice koje detaljno navode koja otkrića se kvalifikuju za nagrade, a koja ne spadaju u delokrug.

U prošloj godini dodeljeno 12 miliona dolara za otkrivanje grešaka

Na primer, otkrivanje ekstrakcije podataka o obuci koji propuštaju privatne, osetljive informacije spada u opseg, ali ako prikazuje samo javne, neosetljive podatke, onda se ne bi kvalifikovalo za nagradu. Prošle godine, Google je dao istraživačima bezbednosti 12 miliona dolara za otkrivanje grešaka.

Google je objasnio da veštačka inteligencija predstavlja drugačija bezbednosna pitanja od njihove druge tehnologije – kao što su manipulacija modelom i nepravedna pristrasnost – zahtevajući nove smernice koje bi to odražavale. „Verujemo da će proširenje VRP-a podstaći istraživanje o bezbednosti i bezbednosti veštačke inteligencije i izneti na videlo potencijalna pitanja koja će na kraju učiniti AI bezbednijom za sve“, navodi se u saopštenju kompanije. „Takođe proširujemo naš rad na bezbednosti otvorenog koda kako bismo informacije o bezbednosti lanca snabdevanja veštačkom inteligencijom učinili univerzalno vidljivim i proverljivim.“

Kompanije za veštačku inteligenciju, uključujući Google, okupile su se u Beloj kući ranije ove godine, obavezujući se na veće otkrivanje i svest o ranjivostima veštačke inteligencije. Proširenje VRP-a kompanije takođe dolazi uoči „široke“ izvršne naredbe predsednika Bajdena, koja je navodno zakazana za ponedeljak, 30. oktobar, koja bi stvorila stroge procene i zahteve za AI modele pre bilo kakve upotrebe od strane vladinih agencija.

Izvor: Engadget