Facebook je uklonio 8.7 miliona postova i fotografija o eksploataciji dece
Tokom poslednjeg kvartala, Facebook je zahvaljujući svojoj novoj AI i machine learning tehnologiji uspeo da ukloni 8.7 miliona postova koji krše pravila vezana za eksploataciju dece. Kako kažu iz kompanije, čak 99% postova i fotografija je uklonjeno pre nego što ih je bilo ko prijavio, objavila je Antigona Dejvis, Globalni direktor za sigurnost u Facebook-u.
Nova tehnologija pretražuje i analizira postove koji sadrže slike nage dece, kao i druge sadržaje koji se tiču njihove eksploatacije. Takođe, algoritam je sposoban da u slučaju potrebe pošalje prijavu Nacionalnom centru za nestalu i eksploatisanu decu. Facebook je i do sada koristio tehnologiju za upoređivanje fotografija kako bi proveravao nove fotografije sa onima koje su već u njihovoj bazi, ali novi alat pomaže da se otkriju i fotografije koje do sada nisu bile u bazi.
Naravno, tehnologija nije savršena, i mnogi roditelji su se žalili da su neke od fotografija njihove dece uklonjene sa Facebook-a. Dejvisova je objavila u svom blogu da su takve fotografije, koje možda nemaju seksualnu konotaciju, uklonjene preventivno, da bi se izbegla potencijalna mogućnost njihove zloupotrebe.
Među kritikovanim uklonjenim sadržajima nalazi se i svetski poznata fotografija iz 1972. godine, na kojoj Phan Thi Kim Phuc, poznata kao „Napalm Girl“ trči naga, sa opekotinama trećeg stepena, nakon napada napalmom na njeno selo u Južnom Vijetnamu. Ipak, moderacija sadržaja zasnovana na veštačkoj inteligenciji ima mnogo prednosti u odnosu na ručnu moderaciju. Ne samo što se na ovaj način može otkriti mnogo brže i mnogo više fotografija sa uznemirujućim sadržajima, već će smanjiti i druge probleme.
Na primer, prošlog meseca je Selena Skola, jedna od bivših Facebook kontent moderatora tužila kompaniju da je pregledanje hiljada nasilnih fotografija kod nje razvilo post-traumatski stresni poremećaj. Mnogi drugi moderatori su potvrdili da su imali psihološke probleme, optužujući Facebook da ih nije dovoljno pripremio na situaciju u kojoj su se našli.
Izvor: TechCrunch
