Procena uticaja – alat koji pravi razliku između inovacije i incidenta

Kada odgovornost postane prednost

Veštačka inteligencija odavno nije privilegija tehnoloških giganata. Danas je koriste banke, osiguravači, javne institucije i mala preduzeća. Ipak, sa svakim AI sistemom dolazi i ključno pitanje: da li razumemo posledice koje može izazvati?

Godina 2025. pokazala je da je odgovor često – ne.
Australijska Commonwealth Bank pokušala je da unapredi korisničku podršku uvođenjem AI glasovnog asistenta. Posle svega nekoliko nedelja, usled pritužbi klijenata, grešaka u komunikaciji i negativnog publiciteta, banka je povukla rešenje i ponovo angažovala ljudske agente.
Salesloft i Perplexity AI suočili su se sa bezbednosnim i pravnim incidentima koje su mogli da predvide – da su na vreme sproveli procenu uticaja.

Zajednički imenitelj svih slučajeva?
Nedostatak sistematske analize rizika pre implementacije AI sistema.

Procena koja pravi razliku

Procena uticaja na zaštitu podataka (DPIA) i procena uticaja na osnovna prava (FRIA) nisu birokratske formalnosti. To su operativni alati koji razlikuju kontrolisanu inovaciju od reputacione krize.

Njihova svrha nije da uspore razvoj, već da mu postave okvir – da omogućе da prepoznate gde AI može pogrešiti pre nego što to učini u vaše ime.

Adekvatno sprovedene, ove procene obuhvataju čitav životni ciklus sistema: od načina prikupljanja podataka i treniranja modela, do mehanizama odlučivanja i praćenja učinaka nakon implementacije.

U praksi to znači:

• da prepoznajete pristrasnost pre nego što postane tužba,
• da imate evidenciju odluka pre nego što dođe do istrage,
• i da dokazujete odgovornost pre nego što se to od vas zatraži.

Tri pitanja koja otkrivaju potrebu za procenom

1. Da li vaš AI donosi odluke koje utiču na ljude?
2. Da li koristi lične podatke?
3. Da li menja način na koji zaposleni rade?

Ako ste na bilo koje od ovih pitanja odgovorili potvrdno – potrebna vam je DPIA ili FRIA.

Vrednost adekvatne procene uticaja

1. Pravna sigurnost
Dokumentovana procena pokazuje da ste postupali s dužnom pažnjom u skladu sa GDPR-om i AI Act-om. U slučaju kontrole, to nije forma – to je dokaz.

2. Operativna otpornost
Sistematska analiza rizika omogućava da prepoznate tehničke i organizacione slabosti pre lansiranja sistema – pristrasnost u podacima, manjak ljudskog nadzora, model drift.

3. Reputacija i poverenje
Transparentno sprovedena procena i objava sažetka rezultata, što AI Act predviđa za sisteme visokog rizika, pokazuju da upravljate tehnologijom odgovorno.
To korisnici prepoznaju – i biraju.

Kada „nije hitno“ postane preskupo

U praksi, najčešći razlog za odlaganje procene uticaja je jednostavan: „nema vremena“.
Ali kada se rizik zaista dogodi – svaki izgubljeni dan ima cenu.

Kod Commonwealth Bank, greške u komunikaciji sa AI sistemom nisu bile tehnički kvar. Bile su predvidive: stariji korisnici nisu mogli da se snađu, ton asistenta bio je neprimeren, a žalbe su se gomilale.
Procena uticaja na osnovna prava (FRIA) upravo bi takve rizike identifikovala.

Sa nekoliko dodatnih nedelja planiranja, banka bi verovatno izbegla višemilionski trošak i reputacionu štetu.

Priručnik

Većina organizacija danas zna da mora sprovesti procenu uticaja.
Malo njih zna kako.

Zato su Ana Toskić Cvetinović i Tamara Zavišić razvile Priručnik za sprovođenje AI DPIA – praktičan vodič za organizacije koje žele da uvedu AI bez improvizacije.

Priručnik ne nudi teoriju, već konkretne alate:

• metodološki okvir korak po korak,
• matrice rizika i kontrolne liste,
• šablone za dokumentaciju,
• korake nakon sprovedene procene.

Zasniva se na evropskim smernicama, standardima i propisima, i prilagođen je organizacijama koje žele da AI uvedu odgovorno – a ne retroaktivno.
U osnovi, priručnik ne objašnjava zašto treba sprovesti procenu, već kako tačno to učiniti da ima pravnu i operativnu težinu.

Zaključak

AI incidenti iz 2025. pokazali su da najveći rizik ne leži u algoritmima, već u nepostojanju procedure.
Procena uticaja nije administrativna prepreka – to je dokaz odgovornosti i mehanizam zaštite pre nego što incident postane vest.

Najskuplji AI rizik nije tehnički.
Počinje onog trenutka kada neko kaže:
„Procenu ćemo uraditi kasnije.“

Priručnik možete poručiti na adresi dpia@etikai.net, sa napomenom da li naručujete priručnik na srpskom ili engleskom jeziku. Korišćenjem promo koda PC Press-a tokom oktobra ostvarujete 10% popusta!