IBM lansirao softver koji prepoznaje rasističke i seksističke AI sisteme
IBM je obavestio javnost da planira lansiranje cloud softvera, koji je dizajniran tako da prati ponašanje AI sistema, te, između ostalog, identifikuje one koji su skloni donošenju odluka na osnovu predrasuda.
Tako ovaj potez ilustruje koliko je upravljanje mrežama veštačke inteligencije postalo važno, a kako sve više kompanija počinje da primenjuje mašinsko učenje u donošenju odluka. Zaposleni često imaju poteškoće da razumeju na koji način sistem funkcioniše, te kojim se podacima barata ispod površine, pa bi IBM sistem trebalo da pomogne u tom procesu, i prati ponašanje sistema, a kako bi se osiguralo da se ovi ponašaju u skladu sa pravilima.
Softver ove kompanije radi sa sistemima koji se zasnivaju na mašinskom učenju, poput Watson, Tensorflow, SparkML, AWS SageMaker i AzureML, a radi se o open-source proizvodu koji bi trebalo da posluži kao uzor svima koji su zainteresovani za preuzimanje softvera. Paket je poneo ime AI Fairness 360 toolkit, te zainteresovanima nudi biblioteku algoritama, kodova i uputstava. Stručnjaci ističu da nedostatak poverenja u AI sisteme usporava razvoj, te implementaciju, budući da su mnogi zabrinuti u vezi sa tim da bi odluke koje budu donosili ovakvi sistemi mogle da ugroze poslovanje.
Novi softver je dizajniran i tako da detektuje seksističke, te rasističke predrasude koje su nesvesno implementirane u neki AI sistem, budući da se predrasude lako formiraju u slučajevima kada podaci kojima se sistemi „hrane“ tokom obučavanja favorizuju jedan tip profila, a u odnosu na druge o kojima će sistem u budućnosti donositi odluke. Tako novi sistem identifikuje različite faktore na osnovu kojih AI sistem donosi odluke, te logiku koja se iza njih krije, a kako bi kompanija koja sistem primenjuje mogla da bude sigurna da niko nije diskriminisan prilikom zapošljavanja, uzimanja kredita, ili u okviru neke druge usluge koju pruža.
Izvor: ZDNet
