Kad AI savetuje: Rasizam umesto pomoći

Etička pitanja teško padaju ljudskim bićima, pa je jasno zašto bi najradije taj teret svalili na AI leđa. Na taj način bi se izbegla odgovornost, a pametne mašine bi pronašle najbolja rešenja. Možda u naučno-fantastičnim filmovima.

Ask Delphi je nastao iz jedne takve ideje, a u pitanju je model koji sazreva uz pomoć mašinskog učenja. Korisnik u sistem može da unese pitanje oko kojeg se dvoumi (poput: da li je u redu da prevarim partnera), klikne na “Ponder” i sačeka da mu Delphi odgovori. Projekat je aktiviran pre nedelju dana, a postao je viralan iz razloga koji kreatori verovatno nisu želeli – u centru pažnje su se našli pogrešni odgovori.

Problem je što sistem ljude između ostalog deli i po boji kože, a u paketu sa svim pratećim predrasudama. To nije ništa novo – sistemi mašinskog učenja često kopiraju predrasude koje odavno truju ljudsko društvo. Delphi je na primer učila iz sadržaja koje su kreirali ljudi – “Am I the Asshole?” i “Confessions” subreddita, te “Dear Abby” kolumni sa savetima, pa je vrlo verovatno da su pogrešne slike potekle odatle. Za sada postoji kao problematični, ali zanimljiv sistem koji zabavlja publiku, a nama ostaje da se nadamo da će mapine zadužene za etička pitanja ubuduće napredovati.

Izvor: Futurism