Google AI i beskućnici: Kraj kontroverznog programa

Google je najavio da prestaje sa kontroverznim programom u okviru kojeg su lica beskućnika korišćena za obučavanje AI sistema, a za novčanu nadoknadu od samo pet dolara.

Nakon istraga koje su motivisali izveštaji u medijima, kompanija je objavila da zaposleni više nisu zaduženi da pronalaze subjekte koji su u teškoj životnoj situaciji, a kako bi im skenirali lica. Tako će se od sada skenovi neophodni za treniranje sistema veštačke inteligencije sakupljati samo u Google kampovima, a uprkos tome što pojedini eksperti još uvek brane program koji je otkazan. Problem je i u tome što su ciljani građani koji žive na ulici uglavnom bili Afroamerikanci, budući da je, kako je moglo da se čuje, bilo neophodno da se prikupe skenovi koji uključuju sve grupe. Rezultat je ipak drugačiji od onoga što se tvrdi, pa je već pre nekog vremena primećeno da AI sistemi razvijaju iste predrasude koje verovatno imaju i oni koji su bili zaduženi za njihovu obuku.

AI trening program je ranije bio problematičan i zbog drugih zloupotreba, poput one u kojoj su zaposleni posećivali studentske kampove, neobavezno obučeni, te skenirali lica studenata, a da ih nisu precizno informisali o tome čemu će skenovi služiti. Google je pronašao rešenje koje bi trebalo da spreči dalje zloupotrebe, pa će se skeniranja od sada obavljati samo na mestima koja su za to predviđena, što bi trebalo da omogući bolju kontrolu istraživanja i veću informisanost subjekata.

Izvor: Futurism