Google otvara program traženja bagova u AI alatima

Google je najavio proširenje svog Vulnerability Rewards Program-a (VRP) na napade koji se tiču AI komponente. Kompanija je objavila smernice koji tipovi pronađenih grešaka će se kvalifikovati za nagrade. Inače, Google je samo tokom prošle godine isplatio 12 miliona dolara istraživačima koji su pronašli bagove u njihovim proizvodima.

Navedeno je da AI donosi različite tipove bezbednosnih problema u odnosu na druge tehnologije, pa stoga je potrebno i da se obezbede novi načini za njihovo prepoznavanje i otkrivanje. Na primer, pronalazak podataka za treniranje koji sadrže privatne informacije biće nagrađeno, dok pronalazak javnih informacija, koje nisu osetljive prirode, neće ući u obzir za nagradu. Proširenje VRP-a na AI učiniće primenu ove tehnologije bezbednijom za sve.

AI kompanije, uključujući i Google, ranije ove godine okupile su se u Beloj kući gde su se složile da je potrebno obezbediti bolje mehanizme otkrivanja propusta u AI alatima. Pored toga, predsednik Bajden je izdao naređenje da se kreiraju jasna pravila i zahtevi za AI modele koji će moći da se koriste u državnim institucijama.

Izvor: Engadget