Sistem za prepoznavanje lica koji koristi policija pokazuje rasnu pristrasnost

Britanski parlament je saznao da sistem za prepoznavanje lica koji je koristila Metropolitan policija tokom krunisanja kralja, može pokazati rasnu pristrasnost na određenim pragovima.

Tehnologija koja je korišćenai na krunisanju koristi više pragove na once-only watch listama, kaže Met poslanicima

Govoreći pred Komitetom za nauku, inovacije i tehnologiju, dr Toni Mensfild, glavni naučnik, Nacionalna fizička laboratorija, rekao je da je sistem baziran na NEC-u koji koristi Met, najveća britanska policija, bio sklon pristrasnosti protiv crnaca na skupu test podataka kreiranih za njegova istraživanja.

„Utvrdili smo da, ako se sistem vodi na niskim i lakim pragovima, zaista počinje da pokazuje pristrasnost u odnosu na crne muškarce i žene zajedno“, rekao je poslanicima.

Mensfild je dodao da veruje da Met nije upravljao sistemom na ovim pragovima.

Svedočenje pre saslušanja u kojem se istražuje upravljanje veštačkom inteligencijom (AI) odnosilo se na Mensfildov izveštaj koji je sprovela Nacionalna fizička laboratorija za Met i policiju Južnog Velsa.

Utvrđeno je da se lažno pozitivne identifikacije povećavaju na nižim pragovima podudaranja lica (0,58 i 0,56) i „počinju da pokazuju statistički značajnu neravnotežu između demografije sa više crnih subjekata koji imaju lažno pozitivnih identifikacija nego azijski ili beli subjekti“.

Međutim, sistem, zasnovan na NEC Neoface V4 1 koji koristi HD5 Face primenjen na listu za praćenje slika sa 178.000 Filler, nije ponudio lažno pozitivne identifikacije na višim pragovima (0,64 ili više) i, prema tome, nema pristrasnosti. Na srednjem pragu (između 0,60 i 0,62), ponudio je osam lažnih pozitivnih rezultata, ali bez statistički značajne pristrasnosti u demografiji.

Lindzi Čizvik, direktor obaveštajne službe Meta, rekla je poslanicima da je sistem korišćen tri puta otkako je istraživanje objavljeno, uključujući u londonskim opštinama Kamden i Islington, i tokom krunisanja kralja.

U svim ovim raspoređivanjima, koja su uključivala upotrebu ukupno šest policijskih kombija, bilo je četiri upozorenja i nula lažnih pozitivnih rezultata. Bila su dva hapšenja, a sa preostalim upozorenjima, policajci su odlučili da hapšenje nije neophodno, iako je identifikacija bila tačna.

Ona je rekla da je pri svakom raspoređivanju policija kreirala poseban skup podataka za „listu za praćenje“ na osnovu lokacije i „obaveštajnog slučaja“ za raspoređivanje. Nakon svakog postavljanja, lista za praćenje je izbrisana. Nijedan od podataka iz implementacije prepoznavanja lica uživo nije sačuvan, rekla je ona.

„U potpunosti razumem zabrinutost javnosti oko [oblasti] kao što su tehnologija prepoznavanja lica i veštačka inteligencija, i oko toga se vodi mnogo debata. Pokušala sam da uvedem tehnologiju prepoznavanja lica na što pažljiviji, proporcionalniji i transparentniji način“, rekla je ona poslanicima.

Bez obzira na to, uvođenje prepoznavanja lica u policiju izazvalo je kritike u Velikoj Britaniji.

Godine 2017, Met je pozvan da otkaže planiranu upotrebu softvera za prepoznavanje lica na karnevalu u Noting Hilu, najvećem evropskom uličnom festivalu. Grupe za zaštitu privatnosti, uključujući Big Brother Watch, Liberty i Privacy International pozvale su na preokret u korišćenju tehnologije.

Obraćajući se poslanicima ove nedelje, Čizvik je rekla da je Met koristio tehnologiju samo jednom „u najranijim danima kada smo naučili da je koristimo“. „To nije bila baš uspešna primena. Saznali smo da je sam broj lica, gustina gomile otežavao rad tehnologije“, rekla je ona.

2018. godine, aktivisti Big Brother Watch-a su otkrili da 91 odsto ljudi označenih na Met-ovom sistemu za prepoznavanje lica nije na listi za praćenje. U to vreme, portparol Meta rekao je da snage nisu uzele u obzir ova lažno pozitivna podudaranja „jer postoje dodatne provere i ravnoteže da bi se potvrdila identifikacija nakon sistemskih upozorenja“.

Nije sjajan izgled samo nedelju dana nakon što je britanski komesar za biometriju i nadzorne kamere, profesor Frejzer Sampson, upozorio da vlada pokušava da ukine nezavisni nadzor nad prepoznavanjem lica.

„Kao zagovornik odgovorne i proporcionalne upotrebe nove tehnologije od strane policije, mislim da je ova praznina problematična koliko za samu policiju, tako i za zajednice kojima služe“, rekao je on.

Izvor: Theregister