これからのAIの話をしよう（人狼編）

「人工知能はうそをつく」　常識疑う力を　人狼AI研究者が描く未来（2/3 ページ）

公開 2018年03月01日 08時45分

更新 2024年04月02日 12時21分

著者

村上万純

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

※本記事はアフィリエイトプログラムによる収益を得ています

AIが忖度する？

――　空いている道ばかりに案内すると、今度はその道が混雑してしまう。全体最適化を考えると、あえて混雑している道を示す方がいい、という考えもあります。

*鳥海准教授*　あと、ドラえもんがのび太のママの料理を食べて「まずい！」とは言わないと思うんですね。「個性的な味ですね」とか表現を変えて（笑）。

――　忖度する（笑）。これらはいずれも悪意を持って人間をだまそうとしているわけではなく、「AIがうそをついた方がいいケース」ですね。

*鳥海准教授*　そうなると、カーナビはなぜそのルートを選んだのか人間を説得しないといけないですよね。今のAIは自分がうそをつく可能性がないから、そもそも説得する必要がない。うそをつくと説得する必要が出てくる。

　すると、今度は人間がそれをどうやって信頼するのか、信頼関係をどう構築するのかという話につながってきます。うそをつくことが前提になると、それを「見破る」必要もあります。

――　まさに人狼ですね。

*鳥海准教授*　人狼はまさにそれだけをやっている場ですよね。人狼は短期的に人を信頼するゲームでもあるので。人とコミュニケーションして、人の社会で生きていくような人工知能というものを考えたときに必要な要素がかなり入ってます。しかし、今すぐ実現するのは難しく、いろいろな技術の進歩が必要です。

人狼知能のエージェント化に必要な技術（鳥海准教授作成スライドより引用）

人狼AI「私が人狼です」　衝撃のスタート

――　将来的には人間と対面で遊ぶAIエージェントを開発したいとのことですが、現時点ではどこまで実現できているのでしょうか。

*鳥海准教授*　人狼AI同士がその強さを競う「人狼知能大会」（オンラインのチャット形式）を15年から毎年開催しています。今までは特定の単語を使うことで会話していたのですが、17年から自然言語処理部門を新設し、フリートークでやりとりできるようになりました。

人狼知能プロジェクトのロードマップ（鳥海准教授作成スライドより引用）

　ゲーム中に使う言葉はたくさんあるので、何を話しているのか完全に理解することは難しいですが、「この人が怪しい」など基本的な所は押さえています。

――　15体のAIエージェントがチャット形式で人狼をプレイし、100試合したらAIエージェントの位置をシャッフルしてさらに繰り返す……というコンピュータだからこそ成せるルールですが、AIはちゃんと人狼を理解し、プレイできているのでしょうか。

*鳥海准教授　第1回大会の初戦で、いきなり人狼のエージェントが「私は人狼です」と言ったのは伝説として残っています（笑）*。

――　ゲームの根幹を揺るがす衝撃の発言です（笑）。そのような、人間だとあり得ないミスはしばしば起こるのでしょうか。

*鳥海准教授*　今はどのチームのAIもすごくよくなっているので、あまりそういったミスはないですね。第1回大会は、自分の役割を間違えるミスをしたエージェントもいました。

人狼にも「強さ」がある

――　人狼は単純に「強い／弱い」で語りにくいゲームだと思っていたのですが、第1回大会でずばぬけて成績の良いAIが現れ、優勝しました。

*鳥海准教授　ずばぬけたエージェントが出てきたことで、人狼が単なるジャンケンではなく、「強さがある」ゲームだと明確になったことは安心しました。*

　ソースコードを見るとそんなに難しいことはやっていなくて、ベイズ推定による作り込みでした。開発者が「BBS人狼」（ブラウザゲーム）のプレイヤーだったので、セオリーを知っていたのでしょう。

（編集部注：優勝したAI「饂飩（うどん）」は、AI同士の関係性に注目していた。人狼陣営について、例えば「AとBとCは人狼、Dは裏切者」「AとCとDが人狼、Eが裏切者」というようにありうるパターンを全て列挙。ゲームの展開に合わせて可能性のあるパターンを絞り込むことで、人狼発見率が他のAIに比べて極めて高かったという）

――　人狼AIを強くする上でディープラーニングのような技術は有効なのでしょうか。

次ページへディープラーニングは万能じゃない？