Istraživači prevarili Tesla Autopilot da skrene u pogrešnu traku

Sigurnosni istraživači su sproveli jednostavan eksperiment čiji rezultati pokazuju da bi Tesla Autopilot u određenim uslovima mogao da skrene u pogrešnu traku, te krene u susret nadolazećim automobilima, i tako ih sve dovede u opasnost.

Ranjivost nije dokazana tako što je sistem automobila hakovan, već upotrebom naizgled bezazlenih nalepnica koje uspevaju da prevare Enhanced Autopilot Tesla automobila Model S 75 da detektuje i prati lažne promene u okviru trake kojom se kreće. Enhanced Autopilot podržava različite akcije, uključujući centriranje automobila u traci kojom se kreće, autonomno parkiranje, te automatsko menjanje trake uz potvrdu vozača. Sistem se oslanja na kamere, ultrasonične senzore i radar, a kada je u pitanju prikupljanje informacija o okruženju, preprekama, terenu i promenama u okviru traka na putu. Informacije se potom otpremaju u kompjuter, te automobil na osnovu njih donosi odluke u realnom vremenu.

Bezbednosni eksperti su sproveli eksperiment u okviru kojeg se pratilo kako se Autopilot ponaša kada se promene uslovi na putu, te su u okviru jednog dela korišćene i nalepnice koje su se postavljale na put kojim se vozilo kretalo, a tako da vozač nije mogao da ih vidi. Algoritmi mašinskog učenja su ih ipak registrovali, te doživljavali kao informaciju da traka kojom se kreću skreće u levo, te je vozilo kretalo u tom smeru, a u susret automobilima koji su dolazili iz suprotnog smera. Ranjivost se pojavila u okviru detect_and_track opcije kojom se detektuju trake na putu, i uz pomoć kojih se ažurira interna mapa iz koje se šalju informacije upravljaču.

Pročitajte i:  Tesla na sudu zbog primanja Elona Muska

Mogućnost uticanja na „ponašanje“ autonomnih automobila uz pomoć promena u okruženju nije ništa novo, te je još 2017. dokazano da promene na putu izazivaju određene probleme, a poenta ovakvih eksperimenata je da se prepoznaju sve moguće ranjivosti, te da se sistem ažurira tako da se broj mogućih grešaka svede na minimum.

Izvor: Ars Technica

Facebook komentari:

SBB

Disaster recovery
Tagovi: , ,