Google AI protiv zlostavljanja dece

Google je lansirao novi AI sistem čija je funkcija da ljudskim moderatorima pomaže da prepoznaju slučajeve visokog rizika kada su nasilje i zlostavljanje dece u pitanju.

Smanjenje nasilja nad decom, te ukidanje online prostora koji to omogućavaju, prioritet je za mnoge tehnološke kompanije, ali je istovremeno i težak posao za one koji se nalaze na prvoj liniji fronta – ljudske moderatore koji moraju da identifikuju, te uklone problematične materijale. Posao zahteva koncentraciju, što nije uvek moguće, te neki sadržaji prođu neprimećeno, a mnogi moderatori prijavljuju posttraumatski poremećaj, a zbog sadržaja sa kojima su svakodnevno u kontaktu.

Mnogi sistemi ovog tipa, koji već postoje, funkcionišu tako što fotografije, te video sadržaje, prepoznaju na osnovu prethodnih materijala, što funkcioniše kada prestupnici dele materijale koji su već identifikovani, ali ne i kada su u pitanju novi materijali. Tu na scenu stupa nova Google AI alatka, koja će reagovati i na materijale koji nisu prethodno obeleženi, što će bitno ubrzati pretragu, te umanjiti pritisak na ljudske moderatore.

Izvor: The Verge