Jak zmást autonomní vozidlo? Stačí pár samolepek na dopravní značce

V souvislostí se samořízenými automobily se často mluví o riziku napadení systému hackery, kteří by tak v krajním případě mohli vozidlo ovládat na dálku. To je scénář, který se sice může udát, ale v určitých situacích by mohlo stačit, kdyby někdo záměrně zmátl systém autonomního řízení. K tomu mohou posloužit vhodné umístěné samolepky na dopravních značkách. Zatímco skutečný řidič by se něčím takovým nejspíš nenechal vyvést z míry, pro samořízený automobil to může znamenat vážný problém.

 

Univerzita ve Washingtonu zkoušela, jak autonomně řízené vozy zareagují na takto upravené dopravní značky. Ukázalo se, že na značku STOP stačilo přidat nápisy Love a Hate, aby si systém myslel, že jde o značku přikazující snížení rychlosti. To by samozřejmě mohl být velký problém, neboť vozidlo by v takovém případě nemuselo dát přednost v jízdě a způsobit tak nehodu na křižovatce. Autonomní vozidla totiž sledují dopravní značky pomocí tzv. počítačového vidění, tedy s využitím kamer. Tento systém však není neomylný, pokud útočník se zlými úmysly, nebo zkrátka jen nějaký vtipálek ví, jak takové rozpoznávání značek funguje. Vytisknout samolepky a nalepit je na potřebná místa už by potom nebylo nic složitého. Značka by v takovém případě mátla projíždějící autonomní vozidla do doby, než by někdo odstranil samolepky, což by jistě nějaký čas trvalo.

 

Výzkumníci z washingtonské univerzity přicházejí i s návrhem řešení, jak zabránit případným nehodám. Systémy pro autonomní řízení by podle nich měly začít využívat kontextuální informace k tomu, aby vozidlo případně vyhodnotilo značku jako nesmyslnou. To by se mohlo týkat například umístění značky STOP na dálnici, nebo nesmyslně vysokého rychlostního limitu v boční uličce. To by s sebou ovšem přinášelo zase jiná úskalí, neboť by systém musel být natolik spolehlivý, aby tímto způsobem “nepřehlédl” důležitou, ač třeba nečekanou značku.

 

Zdroj: Engadget.com