Evropski regulatori usvojili prvi sveobuhvatni propis o veštačkoj inteligenciji
Zakon o veštačkoj inteligenciji će najverovatnije stupiti na snagu u narednih nekoliko meseci.
Clearview AI prvi na udaru
Evropski parlament je usvojio sveobuhvatnu zakonodavnu regulativu koja reguliše veštačku inteligenciju, gotovo tri godine nakon što su prvi nacrti pravila predloženi. Zvaničnici su postigli sporazum o razvoju veštačke inteligencije u decembru. Članovi parlamenta su odobrili Zakon o veštačkoj inteligenciji sa 523 glasa za i 46 protiv, uz 49 uzdržanih.
EU navodi da regulative teže da “zaštite osnovna prava, demokratiju, vladavinu prava i ekološku održivost od visokorizične veštačke inteligencije. Istovremeno podstiču inovacije i uspostavljaju Evropu kao lidera u ovoj oblasti.” Zakon definiše obaveze za primenu veštačke inteligencije na osnovu potencijalnih rizika i uticaja.
Zakonodavstvo još uvek nije postalo zakon. Ono je još uvek predmet provere pravnih lingvista, dok Evropski savet mora zvanično da ga sprovede. Međutim, Zakon o veštačkoj inteligenciji će najverovatnije stupiti na snagu pre kraja mandata, pre sledećih parlamentarnih izbora početkom juna.
Većina odredbi će stupiti na snagu 24 meseca nakon što Zakon o veštačkoj inteligenciji postane zakon. Međutim, zabrane na zabranjene aplikacije će se primenjivati već nakon šest meseci. EU zabranjuje prakse koje smatra da će ugroziti prava građana. “Biometrijski kategorizacijski sistemi zasnovani na osetljivim karakteristikama” biće zabranjeni, kao i “neusmereno skidanje” slika lica sa CCTV snimaka i sa interneta radi kreiranja baza podataka za prepoznavanje lica.
Modeli veštačke inteligencije moraju poštovati autorska prava
Druge aplikacije koje će biti zabranjene uključuju socijalno rangiranje, prepoznavanje emocija u školama i na radnom mestu. Zatim, “veštačku inteligenciju koja manipuliše ljudskim ponašanjem ili zloupotrebljava ranjivosti ljudi.” Neke aspekte prediktivnog policijskog rada će biti zabranjene, odnosno kada je zasnovan isključivo na proceni nečijih karakteristika.
Iako Zakon o veštačkoj inteligenciji uglavnom zabranjuje upotrebu biometrijskih identifikacionih sistema od strane organa gonjenja, to će biti dozvoljeno u određenim okolnostima uz prethodno odobrenje. Naime, ti sistemi će se koristiti u pomaganju za pronalaženju nestale osobe ili sprečavanje terorističkog napada.
Deepfake snimci
Aplikacije koje se smatraju visokorizičnim uključujući upotrebu veštačke inteligencije u policijskom radu i zdravstvu odležu određenim uslovima. Ne smeju diskriminisati i moraju poštovati pravila o privatnosti. Kompanije moraju pokazati da su sistemi transparentni, sigurni i razumljivi korisnicima. Što se tiče aplikacija veštačke inteligencije koje EU smatra niskorizičnim programeri i dalje moraju obavestiti korisnike da komuniciraju sa sadržajem koji je generisala veštačka inteligencija.
Zakon ima određena pravila i kada je reč o generativnoj veštačkoj inteligenciji i manipulisanim medijima. Deepfake snimci i svi drugi AI-generisani sadržaji, slike, video zapisi i audio zapisi moraće biti jasno označeni. Modeli veštačke inteligencije takođe moraju poštovati autorska prava.
“Nosilac prava može izabrati da zadrži svoja prava nad svojim delima ili drugim predmetima kako bi sprečio analizu teksta i podataka. Razlika je samo ako se to koristi u naučne svrhe”, stoji u tekstu Zakona o veštačkoj inteligenciji. “Gde su prava na izbor izričito rezervisana na odgovarajući način, pružaoci modela veštačke inteligencije opšte namene moraju dobiti odobrenje nosioca prava ako žele da vrše analizu teksta i podataka nad takvim delima.” Međutim, modeli veštačke inteligencije koji su izgrađeni isključivo u svrhe istraživanja, razvoja i prototipiranja su izuzeti.
Za najmoćnije modele veštačke inteligencije opšte namene i generativne modele se smatra da imaju sistemski rizik prema pravilima. Granica se može prilagoditi tokom vremena. Međutim, veruje da modeli kao što su GPT-4 i Gemini spadaju u ovu kategoriju.
Zakon o veštačkoj inteligenciji se primenjuje na sve modele koji funkcionišu u EU
Pružaoci takvih modela moraće da procene i umanje rizike. Zatim, moraće da prijave ozbiljne incidente, pruže detalje o potrošnji energije njihovih sistema, osiguraju da zadovoljavaju standarde kibernetičke bezbednosti i sprovode testove i procene modela najnovije generacije.
Kao i kod drugih EU regulativa usmerenih ka tehnologiji, kazne za kršenje odredbi Zakona o veštačkoj inteligenciji mogu biti visoke. Kompanije koje prekrše pravila biće podložne kaznama do 35 miliona evra ili do sedam procenata svog globalnog godišnjeg profita. Koristiće se veća cifra.
Zakon o veštačkoj inteligenciji se primenjuje na sve modele koji funkcionišu u EU. Shodno tome američki pružaoci veštačke inteligencije moraće da se pridržavaju ovih pravila, bar u Evropi. Sam Altman, izvršni direktor kompanije OpenAI, sugerisao je u maju prošle godine da bi njegova kompanija mogla da se povuče iz Evrope ako Zakon o veštačkoj inteligenciji postane zakon. Međutim, on je kasnije naveo da kompanija nema takve planove.
Da bi sproveli zakon, svaka članica će osnovati svoju sopstvenu agenciju za veštačku inteligenciju. Takođe, Evropska komisija će osnovati Kancelariju za veštačku inteligenciju. Ova kancelarija će razvijati metode za procenu modela i pratiti rizike u modelima opšte namene. Kompanije koje pružaju modele opšte namene koji se smatraju sistemskim rizicima biće zamoljeni da sarađuju sa kancelarijom u sastavljanju kodeksa ponašanja.
Izvor: Engadget
