道路脇にごみ箱があると自動運転車が間違って止まる? 米国の研究者らが検証:Innovative Tech
米カリフォルニア大学アーバイン校と米カリフォルニア大学ロサンゼルス校の研究チームは、自動運転車において、道路脇に置かれた物に反応し停止してしまうかを検証した論文を発表した。
Innovative Tech:
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
米カリフォルニア大学アーバイン校と米カリフォルニア大学ロサンゼルス校の研究チームが発表した「Too Afraid to Drive: Systematic Discovery of Semantic DoS Vulnerability in Autonomous Driving Planning under Physical-World Attacks」は、自動運転車において、道路脇に置かれた物に反応し停止してしまうかを検証した論文だ。
道路脇に物体(段ボール箱、ごみ箱、自転車、カラーコーンなど)を置くことで、自動運転車が急停止などの望ましくない行動をとる可能性を研究チームは指摘。この脆弱性は自律走行システムの過度な安全が裏目に出たもので、高速道路の出口で急停車するなど、乗車している人に危険を及ぼす可能性がある。
現在、さまざまな企業がハイレベルの自動運転車を開発している。その中には、Google Waymo、TuSimple、Pony.aiなど、既に公道でサービスを提供しているものもある。このような高度な自動運転を実現するためには、知覚や定位などの環境センシングステップの後、自律走行システムはセンシングした情報を用い、安全かつ効率的なだけでなく、交通ルールなどの運転規範に適合した巡航、停止、車線変更などのハイレベルな運転決定を行う必要がある。
このような意思決定プロセスに誤りがあると、攻撃的すぎる運転で衝突を引き起こしたり、保守的すぎる運転で不必要な緊急停止や道路封鎖を引き起こすなど、好ましくない運転行動に直接つながるため、セキュリティ上非常に重要なプロセスとなる。
このような自律走行システムのセキュリティ脆弱性については、さまざまな先行研究が報告されているが、そのほとんどは自律走行システムの計画ではなく、カメラやLiDARなどによる環境センシングのエラーに着目している。また過度に攻撃的な行動のみが考慮されており、今回のような過度に保守的な側面の研究は少ないのが現状だ。
そこで研究チームは、巡航、車線変更、減速、停止などのタイミングを管理する車両の意思決定プロセスを監督する自律走行システムのコンポーネントに着目して調査を行った。
脆弱性を体系的に発見するために、自律走行システムの脆弱性を自動的に検出できるテストツール「PlanFuzz」を開発した。PlanFuzzを使って、オープンソースの自律走行システム「Apollo」と「Autoware」を評価しビデオによるデモを行った。
デモには、道路脇に段ボールなどを置いて恒久的に停止させるシナリオ、路側帯に駐輪している2台の自転車により車両を一時停止標識のある交差点前で恒久的に停止させるシナリオなどが含まれる。
その結果、道端に置かれた段ボール箱や自転車によって、誰もいない大通りや交差点で車両が恒久的に停止することが発見された。また、別のテストでは、存在しない脅威を察知した自動運転車が、計画通りに車線変更することを怠るケースも確認された。
この結果から、自動運転車を永久に目的地に着かせないことや、緊急停止させ追突事故を起こさせること、走行ルート上で必要な左/右折や車線変更などの運転判断を放棄させるいった攻撃が行えることを示した。
Source and Image Credits: Wan, Ziwen, et al. “Too Afraid to Drive: Systematic Discovery of Semantic DoS Vulnerability in Autonomous Driving Planning under Physical-World Attacks.”
関連記事
- 「赤信号」を「青信号」だと錯覚させる自動運転車へのサイバー攻撃 中国などの研究チームが脆弱性指摘
中国の浙江大学、香港中文大学、米シカゴ大学による研究チームは、自動運転車に搭載されるカメラをレーザー光で攻撃し、信号機の認識を錯覚させる方法を実証し、脆弱性を指摘した論文を発表した。 - 自動運転車へのサイバー攻撃、米国の研究チームが実証 レーザー銃で「偽物の車が前から突っ込んでくる」錯覚攻撃
米デューク大学と米ミシガン大学の研究チームは、自動運転車のセンサーをだまして、周囲の物体が検出距離よりも近い(または遠い)と信じ込ませる攻撃に成功し、搭載するカメラやセンサーの脆弱性を実証した。 - レベル4の自動運転を実装するのに必要なものとは何か?
自動運転の運用を検証する実証実験が大阪で行われた。自動運転の1つの到達目標であるレベル4を見据えたものだ。 - 電気自動車の充電を停止するサイバー攻撃 40m以上先からワイヤレスで可能 英オックスフォード大などが指摘
英オックスフォード大学とスイスのArmasuisse S+Tの研究チームは、電気自動車(EV)と充電ステーションのやりとりを電磁干渉を用いて、離れた場所から攻撃する新しい脆弱性を指摘した論文を発表した。 - AIボイスチェンジャーアプリ「Voidol」を無償配布、15日から
AI開発などを手掛けるクリムゾンテクノロジーは、AIを使って話者の声質をリアルタイムに変換するアプリ「Voidol」(Windows/macOS)を期間限定で無償配布する。6月15日から9月15日までAmazon.co.jpと楽天ブックスで配布する。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.