AIは人の怒りを鎮めることができるか――信頼できる「対話エージェント」の作り方：サイバーエージェント「AI Lab」に聞く（後編）（1/3 ページ）

「人が信頼したくなる、思わず信頼してしまう対話エージェント」を生み出したい……そんなビジョンを掲げ、AIの研究を進める「AI Lab」。企業とさまざまな実証実験を進めているが、その実現にはいろいろな課題もあるという。

[大内孝子，ITmedia]

　「人が信頼したくなる、思わず信頼してしまう対話エージェント」を生み出したい――。そんなビジョンを持ち、サイバーエージェント「AI Lab」と大阪大学の石黒研究室がタッグを組んで生まれた共同研究講座。企業との実験を通じ、エージェントやロボットとの対話が生み出す可能性を追究している。

　AI Labで、対話エージェントを研究している馬場惇さんによれば、最近では、人間の感情にアプローチする研究として、カスタマーサポートにおけるクレーム対応にエージェント（対話AI）を使う実験を行ったという。

• インタビュー前編はこちら→人が“生命”を感じ、信頼できる対話AI　実現のヒントは掃除ロボット「ルンバ」にある

AIは人の怒りを鎮めることができるのか？

　当時、AI Messengerというチャットbotサービスを開発していた彼らは、「チャットbotという対話エージェントならではの接客はないか」と議論する中で、クレーム対応における感情制御の研究を始めた。何か一つ工夫を入れるだけでも、うまくクレームを処理できるのではないかと考えたという。

　「クレームを制御するという方針の下、吉川雄一郎先生がやっていた『複数人対話』を使い、心理的に均衡な状態を作ったり、バラしたりして、相手の心理をコントロールできないかと考えました」（馬場さん）

　この仕掛けで使われるのが「バランス理論」だ。対人関係における心理状態を説明する理論で、三者以上の存在があるときに、彼らの間でバランスを保とうとする人間の心理状態を表す。そのために、ユーザーとオペレーターの会話に、エージェントという第三者を放り込むのだ。

　一般的に、クレームが起きているときは、ユーザーは「〇〇してください」、オペレーターは「できません」というように会話は平行線をたどる。なかなか互いが歩み寄れないため、ユーザーが持つマイナスの感情は変化しない。

複数人対話を用いた、チャットbotでの怒り制御

　しかし、そこにエージェントを登場させ、ユーザーと共にオペレーターに詰め寄ると2対1の構図になる（バランス理論においては、この状態は均衡と定義される）。そこからエージェントが徐々に態度を軟化させていくと、三者の関係は崩れる。その崩れた関係を修復するかのように、ユーザーも態度を軟化させざるを得なくなる仕組みだ。ただ、怒りの制御方法においては諸説あり、AI Labの中でも議論が分かれているという。

事例記事ランキング

• 本日
• 週間
• 月間

1. 三井住友海上のRPA導入、そのキーマンは知る人ぞ知るExcel VBAマスターだった
2. サンリオの「キティちゃん」を支えるデータベースのチカラ
3. 日清食品HDのCIOが語る、生成AIの全社活用と自社環境構築の舞台裏
4. これを旅館と呼んでいいのか!?　老舗旅館「陣屋」が切り開く新たなビジネスモデル
5. Excelマクロで年間35万時間を削減、それでも三井住友海上がRPAを導入した理由

1. 日清食品HDのCIOが語る、生成AIの全社活用と自社環境構築の舞台裏
2. サンリオの「キティちゃん」を支えるデータベースのチカラ
3. 借金10億円、倒産まであと半年――創業100年の老舗旅館「陣屋」をたった3年でV字回復させた方法
4. 元組み込みエンジニアの農家が挑む「きゅうり選別AI」　試作機3台、2年間の軌跡
5. ベネッセ社員が産休から復帰しても“浦島太郎”にならないワケ

1. 借金10億円、倒産まであと半年――創業100年の老舗旅館「陣屋」をたった3年でV字回復させた方法
2. 日清食品HDのCIOが語る、生成AIの全社活用と自社環境構築の舞台裏
3. サンリオの「キティちゃん」を支えるデータベースのチカラ
4. これを旅館と呼んでいいのか!?　老舗旅館「陣屋」が切り開く新たなビジネスモデル
5. 元組み込みエンジニアの農家が挑む「きゅうり選別AI」　試作機3台、2年間の軌跡