ITmedia NEWS > 科学・テクノロジー >
ITmedia AI+ AI活用のいまが分かる

「赤信号」を「青信号」だと錯覚させる自動運転車へのサイバー攻撃 中国などの研究チームが脆弱性指摘Innovative Tech

» 2022年05月09日 09時00分 公開
[山下裕毅ITmedia]

Innovative Tech:

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

 中国の浙江大学、香港中文大学、米シカゴ大学による研究チームが発表した「Rolling Colors: Adversarial Laser Exploits against Traffic Light Recognition」は、自動運転車に搭載されるカメラをレーザー光で攻撃し、信号機の認識を錯覚させる方法を実証し、脆弱性を指摘した論文だ。赤信号を青信号に、青信号を赤信号に誤認させ、衝突事故や交通渋滞を引き起こさせる攻撃になるという

Teslaの車に搭載のカメラに攻撃している様子

 歩行者や車両との衝突事故を防ぐため、自動運転車では信号が今何色かを正確に検出しなければならない。自動運転車だけでなく、それ以外の車にも、人が間違えて交差点に進入した際に急停止するための信号認識機システムが研究されている。

 BMWなどの自動車メーカーやMobileyeなどの部品メーカーが、独自の信号機認識システムを開発・テストしている。またTeslaは最近、米国で自社の車両に信号機認識システムを導入している。現在の信号機認識システムは、カメラを駆使したビジョンベースの技術が使われている。

 今回はそのカメラに対し、レーザー光を用いて攻撃し、信号機の認識を欺くことを検証する。攻撃者の目的は、信号機認識システムを欺くことで、自動運転車に信号機付近で誤った判断をさせる。赤信号を青信号と誤認させ交差点に進入させるシナリオと、青信号を赤信号と誤認させ交通渋滞を引き起こさせるシナリオの2種類となる。

 これはCMOSカメラのローリングシャッターに内在する脆弱性を利用した方法で、レーザーによって画像内に調整可能なカラーストライプを生成することで、敵対的な画像パターンを挿入し実現する。ここでいうカラーストライプは、信号機だけを色付きの線でフィルターをかけるような攻撃を示す。

(左)実際のレーザー干渉、(右)シミュレーションしたカラーストライプによる干渉
攻撃のワークフロー

 実験では、オープンソースの交通信号認識システム2機種を用い、実際の信号機、レーザーダイオード、Tesla車に搭載されるカメラを含む5台のカメラを用いて、エミュレーションと実環境の両方で攻撃を評価した。

実験装置のイラストと実際のセットアップ

 その結果、赤信号から青信号への攻撃で30%、青から赤への攻撃で86.25%という平均成功率が示された。この攻撃は、走行中の車両に対して40m以上離れたところからの連続フレームでも有効であると確認された。

 この脅威を軽減するために、研究チームはローリングシャッターの機構を再設計することを提案している。

Source and Image Credits: Yan, Chen, et al. “Rolling Colors: Adversarial Laser Exploits against Traffic Light Recognition.” arXiv preprint arXiv:2204.02675 (2022).



Copyright © ITmedia, Inc. All Rights Reserved.