「人工知能はうそをつく」 常識疑う力を 人狼AI研究者が描く未来：これからのAIの話をしよう（人狼編）（1/3 ページ）

[村上万純，ITmedia]

※本記事はアフィリエイトプログラムによる収益を得ています

　「人工知能（AI）が、うそをつく」

　果たして、そんなことはあるのだろうか。

　例えば、iPhoneでSiriに「青海までのルートを教えて」とお願いし、間違えて青梅までのルートを教えられても、私たちは「バグかな」とは思っても「Siriにうそをつかれた！」とは思わないはずだ。

　「AIが人間の世界に入ってきたとき、果たしてうそをつかないと言い切れるでしょうか。例えば、スマートスピーカーがフェイクニュースを流す可能性だってあるかもしれない」

　こう話すのは、東京大学の鳥海不二夫准教授。AIがうそをつき、見破り、ときには相手を説得する――そんな人間のように振る舞うAIエージェントの実現を目指す「人狼知能プロジェクト」を率いる。

「人狼知能プロジェクト」を率いる東京大学の鳥海不二夫准教授

　月面着陸という壮大な目標を掲げ、その実現を目指すことで関連技術を発展させたアポロ計画のような「グランドチャレンジ」型の研究開発で、AI、対話エージェント、自然言語処理などの専門家がこのチャレンジングな目標に向けて協力することで、周辺技術の発展を目指すという。

　「今はAIが狭い所に落とし込まれている感じがある。人工知能＝ディープラーニングみたいになるとちょっと違うし、そうじゃない方向性もある」と話す鳥海准教授は、人狼を「人間の本質に迫る所があるコミュニケーションゲーム」と評する。

　将棋や囲碁AIの目標は「強くなること」だった。しかし、人狼知能プロジェクトのゴールはそこではない。「勝つためのAIは作れると思うが、そこが本質ではない」（鳥海准教授）

　人間の本質とは何なのか。将来、AIと人間の関係はどうなるのか。少し先か、はたまた遠い未来なのか――AIと人が共存する社会には何が必要になってくるのかを想像してみたい。

「人狼」は、味方のフリをしたうそつきを会話で見つけるスパイ探しゲーム。人狼のプレイヤーは自分の正体がバレないように「村人」（プレイヤーたちは、とある村の村人という設定）のプレイヤーを襲うため、村人は協力して人狼が誰かを推理し、村から追放していく。うそをつく、推理する、説得する――などの駆け引きがゲームの醍醐味（だいごみ）とされる（いらすとや）

AIが言うことを信じていいの？

――　「人狼」は、プレイヤー同士で会話をしながら、うそをついたり、見破ったり、相手を説得したりと、とても複雑なゲームです。なぜこれほど高度なゲームを研究対象にしたのでしょうか。

鳥海准教授　プロジェクトは2013年にスタートしました。将棋ではAIソフトがトップ棋士に勝利し、囲碁も時間の問題なので次はどうしようと思っていました。

　（お互いの正体を隠しながら会話する）人狼は不完全情報ゲームで定式化が難しいので、チャレンジングな課題としていいかなと。高度な知能を作るのが目標です。

（※編集部注：13年に将棋ソフト「ponanza」が初めて現役棋士の佐藤慎一四段に勝利。17年には囲碁ソフト「AlphaGo」が李世ドル九段に勝利）

2016年3月9日、米Google傘下DeepMindの囲碁AI「AlphaGo」が韓国のプロ棋士・李世ドル（Lee Sedol）氏に勝利

――　AIもうそをつく時代になると。普段の生活で「AIにうそをつかれる」なんて考えたこともなかったです。と言っても、今はまだSiriやスマートスピーカーを使っているレベルですが。

鳥海准教授　いつかそのスマートスピーカーがうそをつくかもしれない。フェイクニュースを流したりするかもしれませんよ。今は基本的にAIが言ったことを人間は信じてますよね。回答の精度が悪いことはあっても、意図的に人間をだますようなことはない。

　でも、例えばカーナビが示すルートを見て「いや、こっちの方がいいだろう」と思うことってありますよね。そういうことがこれからいろいろな分野で起きてきます。