「AIはだませない」神話にだまされてはいけない：半径300メートルのIT（1/2 ページ）

「人間は失敗や間違いをするけれど、機械は常に正確な判断ができるから」と、RPAやAIの導入を進める人や会社をよく見かけるかもしれません。でも、ちょっと待ってください。「AIや機械は間違えない」というその認識、本当に正しいのでしょうか？

[宮田健，ITmedia]

　「人間は失敗や間違いをするけれど、機械は絶対に間違えない」と信じている人に出会ったことはありませんか？　確かに、「人間が見落としがちな部分を認識できる」「長時間、単純な処理を繰り返しても認識精度が落ちない」など、機械を導入するメリットはたくさんあります。しかし、機械やAIも「絶対に間違えない」わけではありません。人間には思いもよらない盲点を突いた攻撃によって、過ちを冒すこともあるのです。

QRコードがスマホのカメラをだます？

　先日、興味深いニュースがありました。「QRコードにセキュリティ上の弱点があり、本来のリンク先とは別の『偽サイト』のリンクを埋め込んで、ユーザーの一部を誘導できてしまう」というものです。神戸大学の森井昌克教授率いる研究室が発表し、森井教授自身による解説記事も出ています。

（参考）

• 気を付けろ！QRコードに脆弱性？　その深刻さと騙されないための対策（森井昌克 個人 -Yahoo!ニュース）

　森井教授が問題の脆弱（ぜいじゃく）性を突いて作った実験用のQRコードを、実際にiPhoneのカメラで読み込んでみたところ（注）、確かに数十回に1回、通常のリンク先とは異なるサイトが開きました。毎回ではなく「たまに」別のサイトに誘導する点が、こうした問題が明るみに出るのを難しくしているといえます。

注：Appleのモバイル端末向けOS「iOS」では、「iOS 11」バージョンから、標準のカメラアプリでQRコードを読み取れるようになりました。

カメラで簡単にスキャンできるQRコード。「本当に目的のサイトに飛べているか」ユーザーの立場からは意外に分かりにくいのです

　いわゆる「偽サイトを組み込んだQRコード」は、一見すると普通のQRコードと同じですが、1つだけ色の薄いドットがあるのが特徴のようです。皆さんもぜひ、森井教授のQRコードをスマホから読み取ってみてください。

　森井教授が上記記事で指摘した通り、QRコードリーダーの種類によっては、QRコードを読み込むとすぐリンク先に遷移してしまいます。そうすると、ユーザーにとって「そのサイトが本来の誘導先かどうか」を判断しにくくなり、悪質なサイトに誘導されてしまうリスクが高まるかもしれません。

　私たちが悪質なQRコードの被害に遭わないためには、一体何をすればいいのでしょうか。そもそも、QRコードは人間が一目で理解できるようには作られていないので、こうした脆弱性を使った攻撃を「気を付けるだけで防ぐ」のは不可能です。「（スマートフォンのカメラやQRコードリーダーなどの）機械をだませるQRコードが存在する」という事実を知っておくことが、今のところ最大の対策になり得るでしょう。