亀のフィギュアに「これは銃です」　AIに誤認識させる手法をMIT学生が開発

公開 2017年11月06日 19時36分

更新 2024年04月02日 12時25分

著者

井上輝一

[ITmedia]

印刷する Googleで優先するソースとして追加

　AIによる画像認識は、今や人間と同等かそれ以上の精度まで進化している。そんなAIが、どう見ても亀のフィギュアにしか見えないものを「銃だ」と間違って認識してしまったら――。

亀のフィギュアを銃と誤認識

　米マサチューセッツ工科大学の学生研究チームがこのほど、ニューラルネットワークによる画像認識を“だます”3Dオブジェクトを作製する手法を開発したと発表した。この手法では、物体を見る方向を変えたり、拡大・縮小したり、カメラのノイズが乗っていたりしても安定して別の物体に誤認識させられるという。

　2次元の画像を加工してAIをだます技術は以前からあったが、その画像をプリントして現実の光やノイズなどの要素が加わったり、回転したりすると正しい認識に戻ることから、現実世界で画像認識システムを使う際のリスクにはならないと考えられていた。

従来の技術では、「AIだまし絵」も角度を変えると正しく認識されてしまう

　チームは、銃に間違えられる亀のフィギュアや、機械にとってはエスプレッソコーヒーに見える野球のボールを作製した。物体の形自体は変えず、計算から得られたテクスチャーを物体に貼ることでAIをだますことができるという。彼らが作製した3Dモデルは平均して84％の確率で、意図した別の物体であるとAIに誤認識させることに成功した。この手法は2Dモデルにも適用でき、2Dでは94％の確率で誤認識させることができた。

銃に間違えられる亀のフィギュアと、エスプレッソコーヒーに間違えられる野球のボール

　この結果から、AIをだます技術は現実世界での実際的な懸念事項だとチームは結論付けている。

印刷する

SpecialPR

この記事の著者

井上輝一

2016年3月からITmediaにジョイン。ITmedia Mobile、PC USER、LifeStyle、ヘルスケアで編集・執筆を兼務。2017年4月からITmedia NEWSでの兼務も開始。2019年4月にNEWS専属となる。スマートフォンやPCといったガジェット系の他、理系（神経科学）のバックグラウンドを生かして科学系のネタや、量子コンピュータ、ブロックチェーン、AIなど多岐に渡って取材している。