Sistem prepoznavanja lica i naša prava

Sistem prepoznavanja lica (Facial Recognition) funkcioniše sve bolje… i zato je sve opasniji po naša prava. Kako naći ravnotežu između primene ove korisne tehnologije i očuvanja privatnosti svakog prolaznika na ulici?

Tehnologija je odlična sve dok znamo čemu služi. Lepo zvuči, a ujedno je u suprotnosti s realnošću, ali i načinom postizanja rezultata istraživačkih poduhvata, nauke ili tehnološkog razvoja kao takvog. Nekoliko decenija svedoci smo različitih, na prvi pogled genijalnih platformi ili uređaja, da bismo se nakon nekog vremena uzbunili pošto saznamo šta je bila prava upotreba (ili zloupotreba) takvih uređaja.

Samo pominjanje reči „tehnologija“ i „fizičko lice“ u istoj rečenici navodi na obradu podataka o ličnosti. Definicija podataka o ličnosti dovoljno je sveobuhvatna da se može primeniti na upotrebu gotovo svake tehnologije. Iako ima dosta primera gde je zla namera postojala od početka, zapravo je više onih gde je fokus, možda i opravdano, bio na nekim drugim vrednostima društva, a ugroženost prava na privatnost pojavila se kao nuspojava. Upravo tim slučajevima posvećen je ovaj tekst, ostavljajući sve one zlonamerne na teritoriji krivičnog prava.

Milioni kamera na ulicama

Sistem prepoznavanja lica (facial recognition) postaje sve popularniji kod organa unutrašnjih poslova širom sveta, ali i sve većeg broja drugih organa vlasti ili privatnih kompanija. Njegova upotreba počinje od sprečavanja kriminala ili gonjenja učinilaca kažnjivih dela, preko pružanja raznih usluga ili plasiranja novih proizvoda, pa do praćenje prisutnosti na radnom mestu.

Zainteresovani su možda već čitali o nameri kineskih vlasti da postave milione kamera koje će omogućiti prepoznavanje lica u roku od svega nekoliko sekundi i sledstveno tome, prestupnicima dostavljati obaveštenja o određenoj novčanoj kazni. U pojedinim primerima o kojima smo slušali ili čitali u raznim medijima, namera vlasti je da se slike prestupnika emituju na ekranima vidljivim velikom broju ljudi, nepoznatim tom licu. Sistemi prepoznavanja lica mogu da posluže i kao karta za korišćenje javnog prevoza (nema više „švercovanja“). Mnoge od tih namera već su našle svoju primenu u stvarnom svetu.

Pored primera kad su tako sprečeni zločini ili nađeni krivci u veoma kratkom roku, bez obzira na prezasićenost saobraćaja i nezamislivo veliku fluktuaciju lica, čitali smo i o slučajevima diskriminacije čitave grupe koja praktikuje neku religiju, čak i članova mlađih od 18 godina. U tim primerima često nam nedostaje razumevanje konteksta zbog udaljenosti, kako geografske, tako i društvene, kulturološke pa i individualnih prava lica. Ono što je u jednom društvu prihvatljivo, može biti na više načina sporno u drugom.

Privatnost, ma koliko planetarno važna, nije jednako bitna u svakom delu sveta. U mnogim društvima privatnost je osnovno pravo i kao takvo uživa zaštitu svih, a odluke države mogu biti osporene i pred međunarodnim sudovima, kao što je Evropski sud za ljudska prava. U nekim drugim društvima privatnost je svojevrsna privilegija koju uživamo ukoliko za to platimo. U nekim pak društvima privatnost je potpuno podređena drugim javnim interesima, naročito interesu bezbednosti, upravo kako je to u datim primerima.

Izvan proporcija?

Važno je da ne izgubimo iz vida mesto koje privatnost zauzima u našem društvu, Ustavu, međunarodnim obavezama i zakonima. Sistem prepoznavanja lica ujedno obrađuje biometrijske podatke jer su mere naših lica jedinstvene, bez obzira na to da li koristimo šminku ili puštamo bradu. Samo taj atribut obrade, dakle da je reč o posebno osetljivoj kategoriji podataka, čini ovaj sistem veoma intruzivnim po privatnost pojedinca, stoga i rizičnim po privatnost kao društvenu vrednost.

Primera radi, upotrebu sistema prepoznavanja lica koju su nameravali da sprovedu organizatori sportskih događaja u Francuskoj radi obezbeđivanje lakšeg ulaska posetilaca, CNIL (nadležni organ za zaštitu podataka Francuske) smatrao je neproporcionalnim. CNIL je dozvolio upotrebu sistema prepoznavanja lica bankama, koje su dozvoljavale alternativnu autentifikaciju lica, pod uslovom da se ovi podaci čuvaju veoma kratak period uz stroge mere zaštite. Istu mogućnost, uz rezervu, najavljuju i banke u Republici Srbiji.

Poslodavci često pribegavaju različitim obradama podataka ne bi li obezbedili efikasnost rada, iako pojedini metodi, kao oni koji nadziru celokupnu komunikaciju zaposlenih, suštinski nisu povezani sa uspešnošću nečijeg angažovanja, a naročito ukoliko ona podrazumeva misaoni proces. Tako je svojevremeno Garante, italijanski nadležni organ za zaštitu podataka, zabranio upotrebu sistema prepoznavanja lica radi praćenja prisutnosti na poslu.

Greške i diskriminacija

Neretko se sistem prepoznavanja lica koristi kao automatizovana obrada podataka, te sistem pretpostavlja da je upravo neko lice bilo na određenom mestu u određeno vreme. Kao i svaki drugi sistem, sklon je greškama i one se oslikavaju kako u samom programiranju takvog sistema, tako i u oslanjanju na zaključke prilikom upotrebe.

U pojedinim slučajevima, sistem prepoznavanja lica bio je diskriminatoran prema pojedinim manjinskim grupama ljudi, pa su čak pojedinci bili prepoznati kao životinje. U nekim drugim bilo je nemoguće da se identifikuju deca ili pojedinci čija fizionomija lica odudara od uobičajene. S druge strane, ovaj sistem može i pogrešno da identifikuje neko lice, dajući mu tako drugi identitet, što može imati nezamislive posledice ne samo sa stanovišta prava na privatnost nego i drugih prava. Upravo stoga je važno imati u vidu cilj koji se želi postići i način na koji se to čini.

Ovog leta, tačnije 21. avgusta, počinje primena Zakona o zaštiti podataka o ličnosti koji je sačinjen delimično na osnovu sada već nadaleko čuvenog i zastrašujućeg GDPR‑a (Opšta uredba o zaštiti podataka koja je bila osnov da Google plati 50 miliona evra zbog kršenja koje je utvrdio pomenuti CNIL u Francuskoj). GDPR, a u tom delu srpski zakon se ne razlikuje, propisuje obavezu procene uticaja neke obrade podataka na prava lica, tzv. procena uticaja na zaštitu podataka.

Procena uticaja na zaštitu podataka o ličnosti

Ukoliko je verovatno da će neka vrsta obrade, posebno upotrebom novih tehnologija, što sistem prepoznavanja lica svakako jeste, uzimajući u obzir prirodu, obim, okolnosti i svrhu obrade, prouzrokovati visok rizik za prava i slobode fizičkih lica, rukovalac je dužan da pre nego što započne sa obradom proceni uticaj predviđenih radnji obrade na zaštitu podataka o ličnosti.

Slučajevi obaveznog sprovođenja procene uticaja na zaštitu podataka o ličnosti propisani su zakonom, a poverenik, kao i pandani poverenika u državama članicama Evropske unije, propisuje listu vrsta radnji obrade za koje se mora izvršiti procena uticaja. Prema Zakonu, procena uticaja obavezna je u slučaju:

1. sistematske i sveobuhvatne procene stanja i osobina fizičkog lica koja se vrši pomoću automatizovane obrade podataka o ličnosti, uključujući i profilisanje, na osnovu koje se donose odluke od značaja za pravni položaj pojedinca ili na sličan način značajno utiču na njega;
2. obrade posebnih vrsta podataka o ličnosti (kao što je snimanje fizionomije lica u cilju jedinstvene identifikacije, čime slika postaje biometrijski podatak), u velikom obimu;
3. sistematskog nadzora javno dostupnih površina u velikoj meri.

Dakle, čak i da poverenik ne propiše dodatne slučajeve obavezne procene uticaja, kod uvođenja sistema prepoznavanja lica, obavezna je prethodna procena uticaja na zaštitu podataka povodom koje može i da se napusti odluka o uvođenju ovakvog sistema – bilo zato što ovako intruzivno zadiranje u privatnost lica nije proporcionalno svrsi, bilo zato što bezbednost tih podataka nije na adekvatnom nivou, uz najviši nivo zaštite od zloupotrebe ili povrede bezbednosti.

Procena uticaja mora da sadrži najmanje, primera radi, opis predviđenih radnji obrade i svrhu obrade, procenu neophodnosti i srazmernosti radnji obrade u odnosu na svrhe obrade, procenu rizika za prava i slobode lica na koje se podaci odnose, kao i opis mera koje se nameravaju preduzeti u odnosu na postojanje rizika, uključujući mehanizme zaštite, kao i tehničke, organizacione i kadrovske mere u cilju zaštite podataka o ličnosti.

Zdrava sumnja

Procena uticaja je novina u evropskom sistemu zaštite podataka, barem njeno važenje za sve države članice EU, i suvišno je napomenuti da je potpuno avangardna u srpskom pravnom sistemu. Otuda je očekivano da se prilikom sprovođenja procene uticaja rukovodimo iskustvima iz Evropske unije, a ne države ili država nekog drugog dela sveta. Pored toga što je reč o skoro istim odredbama u GDPR‑u i srpskom zakonu, domaći pravni sistem ne može se odvojiti od evropskog, jer ne samo da je Srbija na evropskom kontinentu već je privatnost u našem sistemu osnovno ljudsko pravo, a obaveza države je da spreči kršenje prava, čak i kad to radi neko fizičko lice, a kamoli državni organ.

Čini se da je pomama za sistemom prepoznavanja lica i gotovo dogmatski diskurs o njegovoj pouzdanosti umnogome nalik nekadašnjoj fasciniranosti poligrafom i neosporivosti dokaza nevinosti ili krivice lica podvrgnutog ovoj tehnici. Srećom, učenjem upravo na ovom primeru dužni smo da sumnjamo u apsolutnost bilo kog alata, pristupa ili sopstvenog rada. Isto tako treba da pristupimo i razmišljanju o upotrebi sistema prepoznavanja lica.

Autor: Nevena Ružić

Ljudi i tehnologija

Kod upotrebe neke tehnologije na ljudima, potrebno je da se unapred odredi nekoliko premisa:

1. Svaka upotreba tehnologije treba da jasno služi određenoj svrsi.
2. Kakva god da je tehnologija koja se koristi, ukoliko dotiče ljude, pojedinačno ili grupno, ona se tiče zadiranja u privatnost.
3. Kad god se zadire u privatnost nekog lica, obrađuju se podaci o tom licu.
4. Da bi se obrađivali podaci o ličnosti, to mora da ima jasno određenu svrhu, da za tako nešto postoji pravni osnov, kao i da se poštuju sva načela obrade podataka.
5. Čim se obrađuju podaci nekog lica, to lice ima prava, uključujući i pravo na brisanje podataka.
6. Svako pravo stvara odgovornost za drugu stranu.
7. Svaka odgovornost podrazumeva postojanje procesa donošenja odluka, što navodi na početnu premisu.

U skladu sa ovim premisama, s jedne strane, i namerom upotrebe neke konkretne tehnologije obrade podataka o ličnosti, svako zadiranje u privatnost može da se opravda ili ospori.