トラックから信号機が次々出てくる? 自動運転AIの画像認識結果が話題に 対策は?
自動運転車の車載モニターに写る、前方を走るトラックのアイコン。そのトラックから、自車のアイコンに向かって次々と信号機が降り注いでくる──こんな動画が米オンライン掲示板Redditに投稿され、日本でも話題になった。なぜこんな不思議な現象が起きたのだろうか?
自動運転車の車載モニターに写る、前方を走るトラックのアイコン。そのトラックから、自車のアイコンに向かって次々と信号機が降り注いでくる──こんな動画が6月2日(現地時間)に米オンライン掲示板Redditに投稿され、Twitter経由で日本でも話題になった。「テレビゲームのボーナスステージ」「シューティングゲームのよう」という反応も。なぜこんな不思議な現象が起きたのだろうか?
動画の中に答えになりそうなものが写っている。前方を走るトラックが、実際に信号機を荷台に載せていたのだ。どうやらこれを自動運転システムが認識してしまった結果のようだが、これは実際に起きうることなのか。
オープンソースの自動運転ソフトウェアを手掛けるティアフォー(愛知県名古屋市)によれば、「カメラの画像認識のみで信号機を認識すると、日本も含めて同じ現象が発生する可能性がある」という。つまり、人間なら「搬送中の信号機は無視していい」と判断できるが、「信号機が視界のどの辺にあるか」だけを画像認識で行ってしまうと、信号機が動いている(そして無視していい)ことを認識できず、走るトラックから道路へ次々に信号機が置かれているかのように誤認識してしまう、ということだ。Redditの投稿によると、この誤認識を起こしたのは米TeslaのEV「Model 3」だという。
対策にはどのような方法があるのか。ティアフォーは自社の取り組みとして「3次元地図上で信号機の位置を管理し、常に自車の位置と信号機の相対位置を把握しながら走行する方法がある」とした。
【訂正履歴:2021年6月14日午後7時31分 当初、「誤認識を起こしたシステムは自動運転レベル3に対応していた」としていましたが誤りでした。お詫びして訂正いたします】
関連記事
- 亀のフィギュアに「これは銃です」 AIに誤認識させる手法をMIT学生が開発
米マサチューセッツ工科大学の学生研究チームが、3Dの物体を別の物体だとAIに誤認識させる手法を開発した。 - 「一時停止」は「進め」? AIを騙す近未来
「攻撃と防御はいたちごっこ」といわれるセキュリティの世界。多くのセキュリティ製品が採用している機械学習や人工知能もまた、いたちごっこの歴史の1ページになるかもしれません。 - Tesla車は運転席無人でも自動走行する──Consumer Reportsが実験動画を公開
Teslaの「Model S」が木に衝突して炎上した事故を受け、Consumer ReportsがTesla車の運転席を無人状態にして自動運転が可能かどうかのテストを実施した。ハンドルに重りをつけるなどの操作で成功した。 - 「自動運転レベル3」対応レジェンド 検証走行は130万km、世界初となる実用化の舞台裏
本田技研工業(ホンダ)が発表した、「レベル3」相当の自動運転を実現した乗用車「LEGEND Hybrid EX・Honda SENSING Elite」(レジェンド)。レベル3相当の実用化は世界初となる。開発の舞台裏を担当者が明かす。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.