Facebook skrivena bot platforma za istraživanje mera sigurnosti

Na paralelnoj društvenoj mreži skrivenoj od znatiželjnih ljudskih očiju, vojska Facebook botova zloupotrebljava platformu da bi pronašla skrivene nedostatke u bezbednosti i pronašla načine za poboljšanje bezbednosti.

Lažni korisnici pokušavaju da prevare druge botove, objavljuju nelegalni sadržaj i kradu lične podatke u jednostavnijoj verziji Facebook-a koja koristi isti kod kao i prava platforma. Kako Facebook kaže, „simulacija se vrši na samom stvarnom sistemu.”

Kada bot otkrije ranjivost ili grešku na platformi, sistem automatski preporučuje promene inženjerima kompanije Facebook. Mogu da testiraju ispravke u simulaciji pre nego što izvrše ispravke u aktivnoj verziji.

Facebook je otkrio „Web Enabled Simulation“ (WES) u istraživačkom radu objavljenom u sredu, 15. aprila. Autori opisuju virtuelnu društvenu mrežu koju naseljavaju botovi, koji „simuliraju interakcije stvarnih korisnika i društveno ponašanje na stvarnoj platformi, izolovanoj od korisnika“.

Loši Facebook botovi

Simulacije softvera nisu nova ideja, ali Facebook ima neobičan pristup tom konceptu. Dok se većina simulacija odvija u novostvorenim modelima stvarnosti, WES radi preko istih linija koda kao i stvarna platforma. Stručnjaci iz Facebook-a tvrde da to preciznije predstavlja sve složenije interakcije na platformi.

Pročitajte i:  Fitbit pokreće svoje prvo veliko istraživanje nepravilnog otkucaja srca

Facebook je trenirao botove da simuliraju ljudsko ponašanje koristeći metodu koja se naziva reinforcement learning, a koja im donosi nagradu kada izvrše neku akciju. Zatim puštaju botove da testiraju različite zloupotrebe platforme. Kada sistem simulira prevaru, jedan bot igra ulogu prevaranta, a drugi njihovu žrtvu. Prevarant bot je nagrađen za pronalaženje pogodnih meta, koji su programirani tako da ispoljavaju ponašanja tipične žrtve.

Rizik od sudara dva Facebook-a

Ostali botovi pokušavaju da objave nedozvoljen sadržaj na ovaj duplikat Facebook-a, prekrše pravila o privatnosti kao što su pristupanje porukama ili prikupljaju što više podataka od drugih lažnih korisnika. Sistem istovremeno pokušava da otkrije prekršioce pravila, traži načine kako da ih zaustavi i traži greške koje su botovi iskoristili. Takođe može da označi nove probleme nastale ažuriranjem softvera, kao što je promena koda koja je botovima omogućila pristup privatnim fotografijama.

Međutim, sistem nije nepogrešiv. Postoji rizik da se virtualni i stvarni svetovi sudare, kao što priznaju istraživači. „Botovi moraju da budu na odgovarajući način izolovani od stvarnih korisnika kako bi se osiguralo da simulacija, iako izvedena na stvarnom kodu platforme, ne dovede do neočekivanih interakcija između botova i stvarnih korisnika“, upozoravaju istraživači.

Pročitajte i:  Više od milion dronova za dostavu očekuje se na nebu do 2026. godine

Nadajmo se da ovi loši botovi neće pobeći iz svoje simulacije i ući u našu.

Izvor: TNW

Facebook komentari:
SBB

Tagovi: , , , , , ,