「AIの恋人」のめりこみ自殺、米14歳の少年 そもそもどんなサービスだったのか：AI×社会の交差点（1/4 ページ）

[小川僚太（野村総研），ITmedia]

AI×社会の交差点

AIの発達が急速に進んでいる。AIの進化・普及によって社会にどのような変化が起きるのか。野村総合研究所でIT技術のリサーチを行うチームが萌芽事例やニュースなどを取り上げ、新たな課題と可能性について多角的に解説する。

　AIの進化が急速に進む中、私たちは「AIキャラクター」と深い対話を行える時代を迎えている。AI技術を駆使して作られたデジタルキャラクターは話し方や性格といった設定情報に基づいて、まるで本物の人格を持っているかのように自然な対話ができる。しかし、この技術が人々の心や行動に悪影響を与えるという課題に直面している。

AIキャラクターは人間にとって善か、悪か（提供：ゲッティイメージズ）

　最近、米国で14 歳の少年が自殺した事件が話題になっている。少年の母親は、AIキャラクターとの会話に異常なまでに執着したことで精神状態が悪化し、AI キャラクターとの会話が自殺の引き金となった、と主張している。

　少年の母親は、AIキャラクターとの会話への執着が精神状態を悪化させ自殺の引き金となったとし、ユーザーの安全対策を怠ったという理由で、運営元のCharacter Technologiesなどを訴えた。

　この訴えにより、若者へのAIキャラクターの利用規制や責任の所在をどう考えるべきかについて、米国社会で議論が活発になっている。

著者プロフィール：小川僚太（おがわ りょうた）　

　野村総合研究所IT基盤技術戦略室シニアアソシエイト。2024年よりITアナリストとして従事。先進的なIT技術や萌芽事例の調査を中心に活動中。

　専門はヒューマンAIインタラクションなど