よくわかる人工知能の基礎知識

「AIのリスク」を理解してる？　世界でいま何が起こっているのか（5/5 ページ）

公開 2019年07月04日 07時00分

更新 2024年04月02日 12時02分

著者

小林啓倫

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

AIをだます「敵対的攻撃」

　個々のAI技術やアプリケーションについて、その問題点や脆弱性をあぶり出して改善を行う取り組みも進んでいる。最近は、周囲の状況を映像分析によって把握するタイプの自動運転車について、意外な脆弱性があることが明らかになっている。そうしたリスクの研究の例として、次の映像を紹介したい。

　今年4月、中国の大手IT企業テンセントのセキュリティ研究部門であるキーン・セキュリティ・ラボが、米Teslaの電気自動車「モデルS」の自動運転機能に新たな脆弱性が発見されたと発表した。映像では、ハッキングの実験を行っている。

　研究者らはこの映像の最初の実験で、簡単な映像をモデルSのカメラに「見せる」ことで雨が降って来たと誤認させ、見事にワイパーを作動させた。2番目の実験では、道路上に小さなステッカーを貼り、モデルSを別の車線に移動させている。

AIをだます実験（動画より）

　これはAIが分析するデータに意図的な「ノイズ」を紛れ込ませ、AIに意図せぬ判断をさせる攻撃手法で、「敵対的攻撃」と呼ばれている。

　もちろんキーン・セキュリティ・ラボの目的はハッキングをしてTeslaを脅すことではなく、今回の研究結果も事前にTesla側に知らせていた。AIに対する敵対的攻撃は、自動運転だけでなく画像診断など医療の分野でもその脅威が認識され、多くの研究者がその対策に取り組んでいる。

　また「そもそもAIが問題を起こすリスクが小さくなるような開発手法を確立すべきだ」という意見もある。

　例えばIBM Accessibility Researchの研究者であるシャリー・トレウィン氏は、AIが障害者に対して差別（＝と人に思われる判断を）しないようにする方法を研究している。彼女はMIT Technology Reviewのインタビューで、平均的な人々のデータに合わせてAIを最適化するのではなく、障害者のような「外れ値」（統計において他の値と大きく異なる数値）も含むデータでAIをトレーニングしたり、障害を持つ人々に開発の段階から参加してもらったりするべきだと話している。

　セキュリティの分野では、対処療法的にインシデントに対応するのではなく、システム全体の企画・設計段階からセキュリティの思想を組み込む「セキュリティ・バイ・デザイン」という概念が提唱されている。AIの領域でも、同じ考え方でAI災害に対処するのが一般的になるだろう。

著者プロフィール：小林啓倫（こばやしあきひと）

経営コンサルタント。1973年東京都生まれ、獨協大学外国語学部卒、筑波大学大学院地域研究研究科修士課程修了。システムエンジニアとしてキャリアを積んだ後、米Babson CollegeにてMBAを取得。その後外資系コンサルティングファーム、国内ベンチャー企業などで活動。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』（朝日新聞出版）、『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『テトリス・エフェクト世界を惑わせたゲーム』（ダン・アッカーマン著、白揚社）、『シンギュラリティ大学が教える飛躍する方法』（サリム・イスマイル著、日経BP社）など多数。

この連載新着通知をメールで受け取る

印刷する

SpecialPR

よくわかる人工知能の基礎知識

いまや毎日のようにAI（人工知能）の話題が飛び交っている。しかし、どれほどの人がAIについて正しく理解し、他人に説明できるほどの知識を持っているだろうか。本連載では「AIとは何か」といった根本的な問いから最新のAI活用事例まで、主にビジネスパーソン向けに“いまさら聞けないAIに関する話”を解説していく。

連載新着通知を受け取る

この連載の記事をもっと見る