AIエージェントのカギは「ドラえもん」にあり？ AI研究者・大澤正彦さんが語る“相棒としてのAI”（3/3 ページ）

[島田拓，ITmedia]

人の意図を読むLLM

　一方大澤さんの研究室では、意図スタンス・他者モデルの考え方を応用し、AI側が人の意図を読むという研究もしている。

　例えば「この部屋寒いね」といった発話では、字義通りの意味だけでなく「空調の調整をしてほしい」といった言外の意味を伝達することができる。大澤さんによると、ChatGPTなどの大規模言語モデル（LLM）は、この言葉の裏にある人の意図を読むことが不得意だと、複数の実験から判明しているという。「大量の言葉、文字のデータを学習した大規模言語モデルだからこそ、心の中の表現を学習したり、踏まえたりすることが苦手だった」（大澤さん）

　これに対し、大澤さんの研究室では、他者モデルの考え方に基づき、発話意図の推定などに関するモジュールをLLMに組み込む手法を開発。言葉の字義通りの意味と、発話者の意図にずれが生じるさまざまな場面で、意図を読み取れるか検証した。その結果、通常のLLMでは読み取れないような言葉の裏の意図を、高い精度で読み取れるようになったという。

発話意図に基づく自己／他者モデル付き対話アーキテクチャ（画像は論文「意図を読むAIの実現に向けて:対話型生成AIと他者モデルの統合を例に」より引用）

日本の文化とAIエージェントの親和性

　人とAIの相互の歩み寄りを可能にするための研究をしてきた大澤さん。これまで神経科学を参考にした脳型の機械学習アルゴリズムを研究してきた経験も生かし、今後の展望として「意識して考えている部分、つまり顕在化している知的システムと、（思考の）大部分を占める無意識の部分をうまく統合して人と関われるAIを作る」といった全体像を描いている。

　「今、世界中で研究されている大規模言語モデルは、知能の大部分を獲得していくと思われている。でもそれだけじゃない」「まずは他者モデルという自分たちの得意技を（AIに）組み込んで、潜在的な知性と顕在的な知性を両立した、人と関われる、相互適応できるAIエージェントを開発している」（大澤さん）

大澤正彦さん

　加えて大澤さんは、こうしたAIエージェント開発における日本の優位性にも言及。開発の土台となるHAIの研究領域では「日本が世界のトップを走っている」と指摘する。この理由について大澤さんは「やおよろずの神みたいな言葉があるように、日本の文化として（モノにも）心を想定するのが自然だった」として、「その感覚が、AIエージェントを仲間として捉えるという点で優位性が出てきている」と分析した。