ニュース
パナ、画像認識AIの“知ったかぶり”を見抜くAI開発 未知の物体を「未知」と認識可能に
パナソニックは、画像認識AIが学習していない物体を“未知の物体”として認識できるようにする技術を開発したと発表した。誤認識による誤動作の防止が期待される。
パナソニックは7月28日、画像認識AIが学習していない物体を“未知の物体”として認識できるようにする技術を開発したと発表した。AIは未知の物体でも学習済みの何か別の物であると誤認識することがあり、これが誤動作を引き起こす可能性があった。
パナソニックは、画像認識AIの認識結果の信頼度を推定するAI「FlowEneDet」を開発。画像認識AIの後段に設置し、信頼度の低い認識結果を分離できる。画像認識AIの再トレーニングをすることなく、認識精度の向上が実現できたという。
パナソニックによると、AIは学習済みの物体を高精度に認識できるが、学習していない物体を「未知の物体」として認識するのが難しく、無理やり別の何かであると“知ったかぶり”をするという。
例えば、自動運転車などに搭載した画像認識AIが路面を撮影した画像を分析する際、学習済みでない障害物を誤って「道路」として認識してしまうと、重大な事故につながる恐れがある。
パナソニックは今後、車載AIや生活、B2B分野での活用が期待できるとして、引き続き研究開発を続けるとしている。
関連記事
- トラックから信号機が次々出てくる? 自動運転AIの画像認識結果が話題に 対策は?
自動運転車の車載モニターに写る、前方を走るトラックのアイコン。そのトラックから、自車のアイコンに向かって次々と信号機が降り注いでくる──こんな動画が米オンライン掲示板Redditに投稿され、日本でも話題になった。なぜこんな不思議な現象が起きたのだろうか? - 「一時停止」は「進め」? AIを騙す近未来
「攻撃と防御はいたちごっこ」といわれるセキュリティの世界。多くのセキュリティ製品が採用している機械学習や人工知能もまた、いたちごっこの歴史の1ページになるかもしれません。 - 亀のフィギュアに「これは銃です」 AIに誤認識させる手法をMIT学生が開発
米マサチューセッツ工科大学の学生研究チームが、3Dの物体を別の物体だとAIに誤認識させる手法を開発した。 - “顔認識されない”使い捨てマスク AIがオーダーメイドで柄を作成
イスラエルのBen-Gurion University of the NegevとイスラエルのTel Aviv Universityによる研究チームは、カメラで捉えた顔を認識するシステムにおいて、検出されないようにする特殊なマスクを開発した。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.