AI i globalna regulativa

Veštačka inteligencija, njen napredak, domeni i primena su tema godine, pa će biti i najvažnija tema skupa BIZIT. U saradnji sa Fondacijom za otvoreno društvo, istraživaćemo razne aspekte AI-ja, od kojih je pravna regulativa jedan od veoma značajnih.

Istorijski posmatrano, inovacije kao što su pronalazak točka, parne lokomotive ili Interneta oduvek su bile predmet podozrenja. Neznanje predstavlja plodno tle za širenje zabluda, naročito u oblasti visoke tehnologije. Nedavno istraživanje koje je sprovela marketinška agencija Pioniri Communications pokazalo je da je samo 12 odsto Internet populacije u Srbiji isprobalo ChatGPT, dok 88 odsto još uvek nije. Polovina planira da to promeni, a polovina ne. Rezultat ovog istraživanja mnogo govori.

O generativnoj veštačkoj inteligenciji

Veštačka inteligencija (AI) tehnologija je izuzetno podobna za širenje teorija zavere, s obzirom na to da nam takve teorije daju pojednostavljen i vrlo zavodljiv odgovor na mnoga pitanja koja bi inače zahtevala kritičko razmišljanje. Širenju straha doprinose i holivudski filmovi, kao što je „Terminator“, gde imamo jedan od apokaliptičnih scenarija u kome se AI odmetnula, aktivirala nuklearne bombe i dovela do uništenja ljudi, nakon čega su roboti preuzeli vlast. Ovakav scenario za sada nije moguć, jer veštačka inteligencija ne poseduje svoju svest i volju, ali će teorije zavere postojati sve dok se ljudi bore da razumeju svet oko sebe. Dodatni razlog za sumnju u ovu tehnologiju podupire i činjenica da su se algoritmi veštačke inteligencije najpre razvijali u svrhu tajnih državnih projekata (vojnih, obaveštajnih, policijskih) i bili obavijeni velom tajne.

Trenutni nivo razvoja AI je takav da je ona potpuno vezana za ljude, odnosno ne poseduje svest i autonomiju u odlučivanju. Iz tog razloga se upotreba, odnosno zloupotreba AI, može pripisati isključivo čoveku

Za početak, AI vam može reći šta misli da će se dogoditi, ali ne može objasniti zašto tako misli, odnosno kako je došla do zaključka. To je zato što su mnogi algoritmi, koji čine osnovu AI, dizajnirani da prave predviđanja ili identifikuju odnose na osnovu postojećih podataka, što znači da takvi modeli pružaju korelaciju, a ne uzročnost. Ta nepoznanica u našem razumevanju načina na koji AI dolazi do svojih odgovora na naša pitanja je upravo ona vrsta narativne praznine koju teorije zavere uspevaju uspešno da popune.

Vatra je dobar sluga, ali loš gospodar. Ista izreka se može primeniti i u kontekstu upotrebe, odnosno zloupotrebe savremenih tehnologija kao što su Interneta ili veštačka inteligencija. Trenutni nivo razvoja AI je takav da je ona potpuno vezana za ljude, odnosno ne poseduje svest i autonomiju u odlučivanju. Iz tog razloga se upotreba, odnosno zloupotreba AI, može pripisati isključivo čoveku.

UN o AI

O zabrinutosti u pogledu rizika vezanih za razvoj veštačke inteligencije govorio je generalni sekretar UN-a Antonio Guterres na nedavnom zasedanju Generalne skupštine UN, septembra 2023. godine. Tom prilikom je upozorio na potencijalnu opasnost od AI kao oružja za hakerske napade, dezinformacije i širenje mržnje, u kontekstu ugrožavanja globalnog mira i bezbednosti. Napravio je korelaciju s društvenim mrežama, koje su prvobitno bile namenjene za zbližavanje ljudi, ali su postale platforme za podrivanje izbora, širenje teorija zavere i podsticanje mržnje i nasilja.

Niz evropskih poslovnih lidera suprotstavio se predloženom zakonu o AI, izražavajući zabrinutost da bi on mogao uticati na konkurentnost Unije i izazvati odliv investicija

Dodatno, Guterres upozorava na potencijalnu interakciju između AI i nuklearnog oružja, biotehnologije, neurotehnologije i robotike, što smatra duboko zabrinjavajućim. U svom govoru je izneo ideju stvaranja novog tela Ujedinjenih nacija koje bi podržalo kolektivne napore u upravljanju veštačkom inteligencijom. Ovo novo telo bi trebalo da pruži ekspertizu i podršku međunarodnoj zajednici i podstakne saradnju u istraživanju i razvoju alata veštačke inteligencije kako bi se ubrzao održivi razvoj.

Regulativa EU o AI

Evropski parlament je u junu ove godine usvojio predlog Zakona o AI, dok se njegovo usvajanje očekuje u januaru 2024. godine. Najvažnije tačke ovog predloga su:

• Potpuna zabrana korišćenja AI u određene svrhe, kao što su biometrijski nadzor, prepoznavanje emocija i predviđanje upotreba u policijskim aktivnostima
• Biće propisana obaveza transparentnosti u generativnim AI sistemima, kao što je ChatGPT, koji moraju jasno istaći da je sadržaj generisala veštačka inteligencija. Takođe, moraju pružiti pomoć korisnicima u razlikovanju između sadržaja generisanog kroz AI i originalnog sadržaja koji je generisao čovek.
• Određene primene AI smatraće se visokorizičnim, one koje predstavljaju visok rizik po bezbednost, osnovna prava ili životnu sredinu sada su zabranjene. To uključuje upotrebu veštačke inteligencije za uticaj na birače i ishode izbora, kao i sisteme preporuka na velikim društvenim medijskim platformama.
• Nadalje, provajderi AI moraju proceniti i smanjiti potencijalne rizike po zdravlje, bezbednost, osnovna prava, životnu sredinu, demokratiju i vladavinu prava pre nego što svoje modele puste na tržište EU. Moraju takođe registrovati svoje modele u EU bazi podataka.

Da bi podržali inovacije, usvojeni su izuzeci za istraživačke aktivnosti i komponente veštačke inteligencije dostupne pod otvorenim kodom. Takođe su uspostavljeni regulatorni sandbox-i za testiranje veštačke inteligencije pre uvođenja u realna okruženja. Reformisana je uloga Kancelarije za veštačku inteligenciju EU kako bi se osiguralo praćenje implementacije pravila o veštačkoj inteligenciji. Poboljšane su i pravne zaštite građana za podnošenje pritužbi u vezi s AI sistemima i zahtevanje objašnjenja o odlukama zasnovanim na visokorizičnim AI sistemima.

Kaznene odredbe su izuzetno stroge (u ravni sa onima iz GDPR-a) i kreću se do 40 miliona evra ili iznosa do 7 procenata godišnjeg prometa kompanije na globalnom nivou, u zavisnosti od toga koji iznos je viši. Kazne će biti „proporcionalne“ i razmatraće se tržišni položaj manjih pružalaca usluga, što ukazuje na to da će postojati veća fleksibilnost za startup-e.

Niz evropskih poslovnih lidera suprotstavio se predloženom zakonu o AI, izražavajući zabrinutost da bi on mogao uticati na konkurentnost Unije i izazvati odliv investicija. U otvorenom pismu poslatom poslanicima EU, istakli su ozbiljnu zabrinutost u vezi s predlogom Zakona o AI, koji predstavlja prvi sveobuhvatan skup pravila o AI na svetu. U poslednjim mesecima, SAD i Kina takođe su iznele planove za regulaciju ove tehnologije.

Za to vreme, u Srbiji…

Vlada Srbije je usvojila Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije, koji obuhvata više različitih sistema koji koriste veštačku inteligenciju i mogu potencijalno imati manipulativne ili štetne efekte na pojedince i društvo. Nacrt Etičkih smernica za veštačku inteligenciju je objavljen krajem 2022. godine i prošao je kroz proces javne rasprave, u kojem je trinaestoro učesnika dalo svoje predloge i sugestije za poboljšanje dokumenta. Ekspertska grupa od tridesetak članova, uključujući predstavnike javnog sektora, privatnog sektora, profesore i istraživače, radila je na formulisanju smernica.

Smernice identifikuju i deset visokorizičnih sistema koji mogu imati značajan uticaj na integritet pojedinaca. Ovi sistemi uključuju biometrijsku identifikaciju i kategorizaciju pojedinaca, upravljanje infrastrukturom (saobraćaj, voda, gas), algoritme za obrazovanje i zapošljavanje, analizu genetičkih i zdravstvenih podataka, sisteme za pružanje socijalnih usluga, tehnološka rešenja za krivično gonjenje i procenu rizika.

Smernice se fokusiraju na ključna načela za razvoj modela zasnovanih na veštačkoj inteligenciji u javnom i privatnom sektoru i služe kao osnova za donošenje budućeg Zakona o veštačkoj inteligenciji. Dokument sadrži načela koja se odnose na transparentnost, integritet, nereprezentativnost i sprečavanje štete u vezi s veštačkom inteligencijom. Neki od visokorizičnih sistema uključuju biometrijsku identifikaciju, kategorizaciju pojedinaca, algoritme za analizu zdravstvenih podataka i selekciju kandidata u sektoru obrazovanja i zapošljavanja, pa je pitanje zakonite obrade podataka o ličnosti među najvažnijim. Iako su Smernice u velikoj meri usklađene sa sličnim dokumentima na nivou Evropske unije, treba istaći da nemaju zakonsku snagu, odnosno pravno-obavezujuće dejstvo.

Veštačka inteligencija je tehnologija izuzetno podobna za širenje teorija zavere, s obzirom na to da nam takve teorije daju pojednostavljen i vrlo zavodljiv odgovor na mnoga pitanja koja bi inače zahtevala kritičko razmišljanje

Vlada Srbije je uložila znatna sredstva u razvoj veštačke inteligencije kao deo svoje digitalne strategije. Nacionalna platforma za veštačku inteligenciju je pokrenuta u decembru 2021. i omogućava pristup superkompjuteru za obradu velikih količina informacija. Ukratko, nacrt Etičkih smernica za veštačku inteligenciju u Srbiji postavlja važna pitanja o odgovornoj upotrebi veštačke inteligencije u različitim sektorima, ali postoji potreba za daljim radom i regulacijom ove oblasti, uključujući definisanje uloge službi bezbednosti i dodatno adresiranje specifičnih rizika.

Moguće rešenje

Trenutna pravna regulativa na nacionalnom i regionalnom nivou (EU) veoma je dinamična i pokušava da prati razvoj tehnologije, ali se kao zaključak nameće ideja da bi samo globalna regulativa, putem međunarodnih konvencija, a kroz relevantne organizacije kao što je UN, mogla da donese pravnu stabilnost, izvesnost i ravnomeran priliv investicija.

Autor: Advokat Nenad Cvjetićanin, partner u advokatskoj kancelariji Cvjetićanin & Partneri