小林啓倫のエマージング・テクノロジー論考
AIとの禁断の恋──その先にあったのは“死” 「息子が自殺したのはチャットAIが原因」 米国で訴訟 “感情を理解するAI”の在り方を考える（2/3 ページ）
ELIZAは心理療法士との会話をシミュレーションする目的で作られたものだが、入力情報に対して、ごく一般的な返事を返すようにしかプログラムされていなかった。にもかかわらず、ELIZAと「会話」した人間のユーザーは、それが自分に共感してくれていると感じたという。
人間の感情を分析・把握したり、模倣したり、あるいは操作したりしようとするAIは「感情AI」（エモーションAI、あるいはエモーショナルAI）などと呼ばれ、近年急速に進化しつつある。
その背景として挙げられるのが、おなじみの機械学習とディープラーニング技術の進化だ。これらの技術により、AIは人間の行動に関する大規模なデータセットの中にある、複雑なパターンを解釈できるようになっている。
そもそもインターネットや各種のデバイスを通じて、こうした人間の感情に関係するデータを、大規模に収集・分析できるようになったことも大きい。またデータのマルチモーダル化が進んだことで、多種多様な情報を感情分析に使用できるようになった。結果AIは、音声データや表情の画像・動画、生理的信号、テキストなどの多様な入力を分析して、感情的な手掛かりやパターンを特定可能になっている。
会話している相手、すなわち人間の感情に訴えかけるという点では、何と言っても生成AI技術の貢献を無視することができない。ELIZAはいくつかの定型的な回答を行うだけでも、共感する「ふり」を成功させていた。現在のAIは、そこからはるかに進んで、ずっと“人間らしいせりふ”を返すことができるわけだ。
またこうした出力面についても、マルチモーダル化が進んでいる。例えば、米Googleの元研究者が立ち上げた企業・米Hume AIが開発したAIは、人間の音声から24以上もの感情を検出するだけでなく、回答についても、それに基づいて感情豊かに表現してくれる。同じ「こんにちは」でも、元気よく言えば「こんにちは！」と返してくれるし、弱々しく言えば「どうしたの？」と返してくれるといった具合だ。
1つ興味深い研究結果がある。ドイツのポツダム大学の研究者らが発表した論文なのだが、彼らはロボットが絵画作品の内容を解説するという動画を作成し、被験者たちに見てもらった。
この動画では、ロボットは最初にベルリン周辺で話されている方言（伝統的に労働者階級と結び付けられてきた方言とのこと）、次に標準的なドイツ語を使って解説を行う（ちなみに紹介されているのはピカソ作の絵画「マンドリンを持つ少女」）。これら2種類のロボットを見せ、どちらをより信用できるかと尋ねたところ、ベルリン方言に習熟した被験者の場合“方言を話すロボットの方を信用する傾向”が見られたという。
要するに人間は、より人間らしく、より自分に近い表現でコミュニケーションしてくれる機械に、よりポジティブな感情を抱くわけだ。当たり前と言えば当たり前の話なのだが、その当たり前を実用レベルで行えるのが現在の感情AIなのである。
感情AIのメリットとデメリット
こうした感情AIは、もちろん企業にとって大きなメリットをもたらす。カスタマーサービスやマーケティング、エンターテインメントなど、さまざまな領域においてパーソナライズされた体験への需要が高まっており、感情AIはその需要に応えるカギの一つとなっている。
個々の顧客の感情を理解し、それに応答する形でコミュニケーションを調整できるAIソリューションがあれば、より魅力的で満足度の高い体験を創出できるわけだ。
また単純に、感情分析を業務上の効率化や事故防止に役立てることもできる。例えばカスタマーサービスにおいて、AIが最初に問い合わせに応答し、相手の感情を把握する（激しく怒っているなど）ことで、複雑で優先度の高い案件を人間のオペレーターに回すといった取り組みが行われている。
自動車業界や運送業界などでは、ドライバーや同乗者の表情や声を分析することで、ドライバーの眠気や注意散漫を検出し、それに応じて適切な対応を取ることが検証されている。
何より、先ほどのCharacter.AIのように、感情AI自体が価値のあるコンテンツになり得る。同様のサービスは他にも多数存在し、単純に雑談に付き合ってくれたり、寂しいときに慰めてくれたりするだけのチャットbotであっても、十分に需要があることが証明されている。
または、かつてのELIZAのように、心理療法士の役割を演じてくれるチャットbotの研究も進んでおり、感情的なコミュニケーション自体が売り物化していくかもしれない。
しかし冒頭で取り上げたセウェルさんのケースは、一歩間違えば、感情AIが大きな事故につながることを証明している。
チャットbotを巡って自殺が起きたとされているケースは、今回が初めてではない。23年には、あるベルギー人男性が、米Chai Researchという企業が開発したAIチャットbot（「イライザ」という名前が付けられていたそうだ）と会話しているうちに自殺するという事件が起きている。
この男性は気候変動問題について思い悩んでおり、AIと会話していた際に「天国で一緒に生きましょう」などといったメッセージが表示され、それが引き金となって自殺を選んだ可能性があると報じられている。
対話型AIが人間の心理にどこまで悪影響を与えるかの議論については、現時点では決着はついていない。しかしこれらの事件は少なくとも、思春期の若者や深い悩みを抱えた人物が感情AIに強い愛着を抱き、操作を受けやすくなる可能性を浮き彫りにしている。
Copyright © ITmedia, Inc. All Rights Reserved.
小林啓倫のエマージング・テクノロジー論考
生成AIやメタバース、新たなサイバー攻撃など、テクノロジーの進化が止まらない。少しずつ生活の中に浸透し、その恩恵を預かれることもある一方、思いもよらない問題を生み出すこともある。このコーナーでは、さまざまな分野の新興技術「エマージング・テクノロジー」について、小林啓倫氏が解説する。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
よく見られているカテゴリー
アクセスランキング
-
1
「ポンコツ」と呼ばれたM365 Copilotの逆転劇、GPT-5が転換点 活用の秘訣は“脱・プロンプト職人”
-
2
人間 vs. 人型ロボ、より多く作業をこなせるのは？ 生配信で対決した結果…… 米企業
-
3
「AIデータセンターの電力需要が急増」はホント？ 発電大手Jパワー社長が明かした“報道との温度差”
-
4
キオクシア社長「記録的な増収増益」 3カ月の売上収益1兆円、純利益は2990％増 好決算の背景は
-
5
伊藤忠商事や三菱ケミカルなど16社が参画 大手企業の「暗黙知」を活用する新プロジェクト
-
6
NEC社長が説く AI時代と新たな安全保障環境の到来で「ITサービスはこう変わる」
-
7
生成AIで3Dモデルを自動作成 専門スキル不要でテキストや画像から3D化
-
8
「邪魔すぎ」――LINE入力欄の“新AI機能”が不評 消し方は？
-
9
OpenAI、「ChatGPT」に個人向け資産管理機能 金融口座と連携
-
10
Python 3.15に追加されるlazy importと内包表記でのアンパッキングについて調べてみた
SpecialPR
ITmedia AI＋ SNS
@itm_aiplusをフォロー
インフォメーション
注目情報をチェック
ITmedia AI＋をフォロー
あなたにおすすめの記事PR