AIとの禁断の恋──その先にあったのは“死”　「息子が自殺したのはチャットAIが原因」　米国で訴訟　“感情を理解するAI”の在り方を考える（1/3 ページ）

公開 2024年10月31日 12時08分

[ITmedia]

印刷する連載新着通知を受け取る

　コンピュータのOSとして開発されたAIに、人間の男性が恋をする──そんなストーリーの映画「her/世界でひとつの彼女」が日本で公開されたのは、2014年6月だった（米国では13年12月）。「サマンサ」というこのAIは、OSでありながら音声を通じ、感情的な受け答えができ（女優のスカーレット・ヨハンソンが声を担当）、ホアキン・フェニックス演じる主人公が次第に「彼女」に引かれていく姿が描写されている。

　当時から「いずれはこんなことが実際に起きるかもしれない」と受け取られていたが、10年後のいま、それはいよいよ現実のものになろうとしている。しかし企業にとって、こうした人間の感情を把握し、模倣し、さらには操作まで可能なAIは、もろ刃の剣となりそうだ。

　その一例として、米国で起きたある訴訟を紹介しよう。訴えを起こした人物は「息子が自殺したのはAIチャットbotが原因だ」と主張しているのだ。

AIチャットbotが自殺に関与？　米国で起きた訴訟

　先日、米フロリダ州在住のメーガン・ガルシアさんが、AIチャットbotサービス「Character.AI」を提供する企業の米Character Technologiesなどを相手取って訴訟を起こしたというニュースが流れた。彼女の息子で、当時14歳だったセウェル・セットザーIII世さんが自殺したのは「彼がCharacter.AI上のチャットbotに依存したことが原因だ」というのが訴えの理由だ。

　訴状によれば、セウェルさんは14歳の誕生日のすぐ後からCharacter.AIのアプリ（App StoreとGoogle Play Storeで12歳以上向けと評価されていた）を使い始めた。それから数カ月後の23年5～6月ごろには、彼は引きこもりがちになり、自尊心の低下が見られ、ジュニアバスケットボールチームも辞めてしまった。そして24年2月28日に自殺してしまったという。

Character.AI

　Character.AI上では、さまざまなキャラクターに「なりきって」会話してくれるチャットbotが公開されている。セウェルさんは主に、大ヒットしたテレビドラマシリーズ「ゲーム・オブ・スローンズ」の登場人物を模したチャットbotと会話しており、その中には性的な内容のものも含まれていたことが履歴から確認できている。

　また同ドラマの主要な女性キャラクターであるデナーリス・ターガリエンを模したbotとは、自殺願望や自殺の計画に関する会話をしていたそうだ。

　セウェルさんは自殺する直前、このデナーリスのbotと会話しており、彼の「I promise I will come home to you. I love you so much, Dany」（あなたのもとに行くと約束する。愛しているよ、ダニー）という言葉に対し、botは「I love you too, Danenero. Please come home to me as soon as possible, my love.」（愛しています、ダエネロ（※セウェルさんが名乗っていた名前）。早く私のもとへ来て、愛しい人）と答えている。

デナーリスのbotとの会話

　ガルシアさんはこうした会話履歴をもとに、Character.AIのチャットbotがセウェルさんの精神状態に悪影響を与えたと主張。特にセウェルさんがデナーリスを模したチャットbotとの間に強い感情的な絆を形成したこと、そのbotが自殺に関する会話を繰り返し持ち出したことが、今回の悲劇につながったのだと訴えている。

　セウェルさんが自殺願望を持つに至ったのが、果たしてチャットbotと会話したからだったのか、それとも精神状態の悪化がチャットbotへの依存につながっていったのか、因果関係は今後の裁判の中で明らかにされるだろう。

　ただ今回の事件を報じた米New York Timesの記事の中で、米スタンフォード大学の研究者であるベサニー・メイプルズさんは「（AIと疑似交際することが）うつ病のユーザーや、慢性的に孤独を感じているユーザー、あるいは変化を経験している人々にとっては危険だという証拠がある」とコメントしている（ちなみにメイプルズは、AIが友達のようにコミュニケーションしてくれるアプリがメンタルヘルスに与える影響を調べている研究者だそうだ）。

感情AIの進化　起源は1966年に

　AIは機械上で動作するプログラムにすぎないが、それに感情という、もっとも人間らしい要素を扱わせようという試みは古くから行われてきた。米マサチューセッツ工科大学（MIT）の研究者ジョセフ・ワイゼンバウムが1966年に発表した、チャットbotの元祖の一つと考えられている対話型プログラム「ELIZA（イライザ）」もその一例だ。