「AIのリスク」を理解してる? 世界でいま何が起こっているのか:よくわかる人工知能の基礎知識(5/5 ページ)
進化を続けるAIを、人間はどうやって制御し、使いこなしていけばいいのか。いまあるAIの脅威を例に、具体的な対応策を整理してみたい。
AIをだます「敵対的攻撃」
個々のAI技術やアプリケーションについて、その問題点や脆弱性をあぶり出して改善を行う取り組みも進んでいる。最近は、周囲の状況を映像分析によって把握するタイプの自動運転車について、意外な脆弱性があることが明らかになっている。そうしたリスクの研究の例として、次の映像を紹介したい。
今年4月、中国の大手IT企業テンセントのセキュリティ研究部門であるキーン・セキュリティ・ラボが、米Teslaの電気自動車「モデルS」の自動運転機能に新たな脆弱性が発見されたと発表した。映像では、ハッキングの実験を行っている。
研究者らはこの映像の最初の実験で、簡単な映像をモデルSのカメラに「見せる」ことで雨が降って来たと誤認させ、見事にワイパーを作動させた。2番目の実験では、道路上に小さなステッカーを貼り、モデルSを別の車線に移動させている。
これはAIが分析するデータに意図的な「ノイズ」を紛れ込ませ、AIに意図せぬ判断をさせる攻撃手法で、「敵対的攻撃」と呼ばれている。
もちろんキーン・セキュリティ・ラボの目的はハッキングをしてTeslaを脅すことではなく、今回の研究結果も事前にTesla側に知らせていた。AIに対する敵対的攻撃は、自動運転だけでなく画像診断など医療の分野でもその脅威が認識され、多くの研究者がその対策に取り組んでいる。
また「そもそもAIが問題を起こすリスクが小さくなるような開発手法を確立すべきだ」という意見もある。
例えばIBM Accessibility Researchの研究者であるシャリー・トレウィン氏は、AIが障害者に対して差別(=と人に思われる判断を)しないようにする方法を研究している。彼女はMIT Technology Reviewのインタビューで、平均的な人々のデータに合わせてAIを最適化するのではなく、障害者のような「外れ値」(統計において他の値と大きく異なる数値)も含むデータでAIをトレーニングしたり、障害を持つ人々に開発の段階から参加してもらったりするべきだと話している。
セキュリティの分野では、対処療法的にインシデントに対応するのではなく、システム全体の企画・設計段階からセキュリティの思想を組み込む「セキュリティ・バイ・デザイン」という概念が提唱されている。AIの領域でも、同じ考え方でAI災害に対処するのが一般的になるだろう。
著者プロフィール:小林啓倫(こばやし あきひと)
経営コンサルタント。1973年東京都生まれ、獨協大学外国語学部卒、筑波大学大学院地域研究研究科修士課程修了。システムエンジニアとしてキャリアを積んだ後、米Babson CollegeにてMBAを取得。その後外資系コンサルティングファーム、国内ベンチャー企業などで活動。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』(朝日新聞出版)、『IoTビジネスモデル革命』(朝日新聞出版)、訳書に『テトリス・エフェクト 世界を惑わせたゲーム』(ダン・アッカーマン著、白揚社)、『シンギュラリティ大学が教える 飛躍する方法』(サリム・イスマイル著、日経BP社)など多数。
関連記事
- それは人類にとって脅威なのか 「強いAI」について考える
「強いAI」と「弱いAI」とは何なのか? いまある議論を整理してみたい。 - 「AIが仕事を奪う」への疑問 いま、“本当に怖がるべきこと”は
「人工知能が原因で失業する」。しばしば、AIはこうした脅威論の文脈で語られることがある。AIは本当にそこまで怖いものなのだろうか。 - ディープラーニングは何ができる? エンジニア以外も知っておきたい注意点
第3次AIブームをけん引する技術である「ディープラーニング」。今回はディープラーニングを活用する上で知っておきたい基礎知識を紹介する。 - エンジニア以外も「AIの仕組み」を学ぶべき理由 機械学習とディープラーニングの違いは?
エンジニア以外もAIについて学ぶべきなのか? そんな疑問への答えと、いまさら聞けない機械学習とディープラーニングの違いを専門家が解説。 - 文系でも分かる「機械学習」のススメ 教師あり/なし、強化学習を解説
よく耳にするようになった「機械学習」という言葉。機械学習にはどのような種類があって、どのようなことができるのか。 - 「機械学習に50年の歴史あり」 人工知能が歩んできた道
いまの「第三次AI(人工知能)ブーム」はいつまで続くのか? これまでのAIの歴史を振り返りながら考えてみたい。 - あなたは人工知能が何なのか、人に説明できるだろうか?
いまや毎日のようにAIの話題が飛び交っている。しかし、「この製品やサービスではAIを使っている」というのは具体的に何を指すのか、どれほどの人が説明できるだろう。初心者向けに人工知能とは何かに迫る新連載がスタート。第1回は「AIとは何か」。
Copyright © ITmedia, Inc. All Rights Reserved.