Može li Kalifornija da ukroti AI?

SB 1047 želi da reguliše AI.

Veštačka inteligencija je brzo napredovala i u stanju je da izvršava brojne operacije bez učestvovanja ljudi. Do sada se videlo i „zlo lice“ AI: lažne slike, video snimci, oponašanje i prevare. Potreba da se AI reguliše postaje sve hitnija. Upravo to Kalifornija pokušava da to učini kroz SB 1047.

SB 1047, prošao je državnu skupštinu i Senat Kalifornije, ali sada je na stolu guvernera koji će odrediti sudbinu zakona. EU i ostale države pokušavaju da pripreme regulativu o AI. SB 1047 je najstrožji okvir do sada koji se pojavio u svetu.

Analitičari smatraju da bi SB 1047 bio apokalipsa za razvoj tehnologije i velika pretnja za startupove, programere otvorenog koda i akademike. Sa druge strane, zagovornici zakona smatraju da je neophodan kako bi obuzdao potencijalno opasnu tehnologiju.

Zakon zahteva od programera da sprovedu temeljno testiranje bezbednosti, uključujući procene trećih strana. Pre nego što prikažu svoje modele moraju da provere da li postoji rizik po čovečanstvo. Programeri su u obavezi da implementiraju „prekidače za zaustavljanje“ kako mi bebednosne agencije mogle da kontrolišu nove tehnologije. U slučaju da ne poštuju ove odredbe programeri bi mogli da se suoče sa veoma teškim tužbama bezbednosti. Kritika ovog zakona je uticala na novi nacrt koji nešto blaži. Umesto tužbi uvedeni su bezbednosni sertifikati.

Ipak, veliki broj kritičara smatra da je reč o političkom manevrisanju koji ima za cilj kontrolu nad razvojom moćne tehnologije. Političari se ne zalažu javno za ovaj zakon jer to utiče na velike finansijske gubitike u njihovoj podršci. Ipak, ispod leda odvija se besna bitka. Sve se više veruje da će guverner odobriti ovaj zakon, koji bi mogao drastično da utiče na pad ekonomije u Kaliforniji.

Izvor: theverge.com