亀のフィギュアに「これは銃です」 AIに誤認識させる手法をMIT学生が開発

米マサチューセッツ工科大学の学生研究チームが、3Dの物体を別の物体だとAIに誤認識させる手法を開発した。

[井上輝一，ITmedia]

　AIによる画像認識は、今や人間と同等かそれ以上の精度まで進化している。そんなAIが、どう見ても亀のフィギュアにしか見えないものを「銃だ」と間違って認識してしまったら――。

亀のフィギュアを銃と誤認識

　米マサチューセッツ工科大学の学生研究チームがこのほど、ニューラルネットワークによる画像認識を“だます”3Dオブジェクトを作製する手法を開発したと発表した。この手法では、物体を見る方向を変えたり、拡大・縮小したり、カメラのノイズが乗っていたりしても安定して別の物体に誤認識させられるという。

　2次元の画像を加工してAIをだます技術は以前からあったが、その画像をプリントして現実の光やノイズなどの要素が加わったり、回転したりすると正しい認識に戻ることから、現実世界で画像認識システムを使う際のリスクにはならないと考えられていた。

従来の技術では、「AIだまし絵」も角度を変えると正しく認識されてしまう

　チームは、銃に間違えられる亀のフィギュアや、機械にとってはエスプレッソコーヒーに見える野球のボールを作製した。物体の形自体は変えず、計算から得られたテクスチャーを物体に貼ることでAIをだますことができるという。彼らが作製した3Dモデルは平均して84％の確率で、意図した別の物体であるとAIに誤認識させることに成功した。この手法は2Dモデルにも適用でき、2Dでは94％の確率で誤認識させることができた。

銃に間違えられる亀のフィギュアと、エスプレッソコーヒーに間違えられる野球のボール

　この結果から、AIをだます技術は現実世界での実際的な懸念事項だとチームは結論付けている。