Innovative Tech

ChatGPTで思考する人型AIと“同棲”したらどうなる？　「AIを信頼していく」　米中の研究者らが検証

　米マサチューセッツ大学アマースト校などに所属する研究者らが発表した論文「Building Cooperative Embodied Agents Modularly with Large Language Models」は、大規模言語モデル（LLM）が他のLLMエージェントや人間と協調して複雑なタスクを遂行する協調型エージェントの構築に役立つかどうかを調査した研究報告である。

　この設定で成功するためには、エージェントが観察から有用な情報を抽出し、周囲環境と他のエージェントに関する情報を収集。その上で、何をいつどうするかのコミュニケーションを行い、共通のゴールに到達するための協調的な計画を立てなければならない。

　これらを達成するために、LLMを利用した、協調のためのフレームワークを提案する。このフレームワークは複数のモジュールで構成される。

　搭載するモジュールは「物理環境と他のエージェントの両方を理解するモジュール」「LLMの強力な自由形式の対話生成を利用して何を伝達するかを決定するコミュニケーションモジュール」「他のモジュールから提供された全ての情報を総合して、いつ伝達するかを含む高レベルの計画を決定する推論モジュール」など。協調を成功させるための重要な側面に対処する。

　実験では2人のエージェント（アリスとボブ）を同じ場所に住まわせ、両者の行動をモニターした。タスクは、食事の支度や食器を洗うなど数種類の一般的な家事活動を設定した。ただし、必要な物（フォークや食品など）は、寝室やバスルームなどさまざまな場所にあり、複雑にしている。

　モニタリングの結果、まずエージェントはいつ助けを求めるべきかを知っており、他の人の要求に応答できることを確認できた。例えば、ボブはリビングルームで目的のオブジェクトを見つけたが、手に持てなかったので、この情報を共有し、アリスに手伝いに来るように要請。アリスはその場所に行き、オブジェクトを手に取ることで応答した。これはいつ助けを求めるべきかを知っており、他人の要求と応答を理解できることを示している。

　次に、エージェントが他人のことを考慮して自分の計画を変えることができることが分かった。以下はその一例になる。

　ボブが「寝室でフォークを見つけたんだけど、キッチンに行ってもっと探すよ。アリス、リビングルームやバスルームにもっとフォークがないか調べてね」と言うと、アリスは「私もフォークを見つけたわ。今、キッチンにいるから、私がキッチンの棚を探っている間に、リビングルームにもっとフォークがないか調べてね」と答えた。

　このように、ボブは最初は自分がキッチンに行くと計画していたが、実際にはアリスが既にチェックしていたため、アリスはボブにリビングルームに行くよう提案した。最終的に、ボブはアリスの提案に同意した。

　次に、効率の観点から、現在行っている作業を優先し、コミュニケーションを後回しにするケースもあった。例えば、アリスがボブに話しかけたが、ボブはテーブルに皿を置こうとしていたので、無視して先に皿を置いた。その時点で皿を置くことが最後のタスクだったこともあり、ボブは仕事（皿を置く動作）を終えることが効率的だと判断し、より高い効率を実現するためにコミュニケーションを後回しにする選択をした。

AIエージェントと人間は協調できるか？

　次の実験では、エージェントと人間を同様の設定下に置き、エージェントが人間とうまく協調できるかをモニターした。8人の参加者にそれぞれ実行してもらい、アンケートで質問に答えてもらった。その結果、人間がエージェントと進捗状況をテキストで共有し、タスクを分担する提案をすると、エージェントはそれを理解し、将来の計画を返答するやりとりができた。

　例えば、人間が「寝室でカップケーキとジュースを見つけたよ」と言ったとする。それに対して、エージェントは「素晴らしい！　私はキッチンにいるよ。ワインやリンゴなどを探してみるよ。カップケーキとジュースをキッチンのテーブルに置いたら教えてね」と返答した。

　そして、人間が「テーブルの上に置いたよ。リビングルームやバスルームも探してみるね」と返答し、意味のあるやりとりが続いた。こうしたやりとりにより、エージェントへの信頼が高まっていったという結果が得られた。

　これらの結果から、GPT-4のような最近のLLMの豊富な知識と強力な推論能力を利用することで、他のエージェントや人間と計画立案、コミュニケーション、協調を行い、長期的な目標を効率的に達成できると分かった。また、自然言語で人間とコミュニケーションするLLMベースのエージェントは、人間からより多くの信頼を獲得できることが分かった。

Source and Image Credits: Zhang, Hongxin, et al. “Building Cooperative Embodied Agents Modularly with Large Language Models.” arXiv preprint arXiv:2307.0248（2023）.

Innovative Tech

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説している。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  25人のAIが一緒に暮らしたら、自我は芽生えるか？　ゲームの中で検証　バレンタインなど勝手に企画

• 

  ChatGPTに人格を与えるとどうなる？　スティーブ・ジョブスになりきってEUに毒舌、有害性が増大

• 

  AIの遺電子の根底にある「2つのやばさ」と「3つのAI」　ChatGPT到来を予言した世界観を作者本人が解剖

• 

  人格コピーAIは21世紀の写真？　“亡き妻のAI再現”で受賞の松尾Pと「AIの遺電子」山田胡瓜が考える「デジタル人格」のこれから

• 

  ”ChatGPT時代”初の夏休み　どうする学校のAI対策　保護者から見た文科省「AIガイドライン」の中身