10代のAIコンパニオン利用に“容認できないリスク”──米調査団体が懸念 その根拠とは

未成年のAI利用に関する実態が、米国で10代を対象に実施した調査で浮かび上がった。18歳未満のユーザーによるこうした「AIコンパニオン」利用には、容認できないリスクがあると調査団体が指摘する理由とは何か。

[鈴木聖子，ITmedia]

　AIと友達感覚で話をしたりアドバイスをもらって実生活に生かしたりしながらも、ほぼ半数はAIが道具またはプログラムだという認識を忘れていない――。未成年のAI利用に関するそんな実態が、米国で10代を対象に実施した調査で浮かび上がった。それでも18歳未満のユーザーによるこうした「AIコンパニオン」利用には、容認できないリスクがあると調査団体が指摘する理由とは何か。

　調査は子どものメディア利用について検証している米国の非営利組織「Common Sense Media」が13〜17歳の米国人1060人を対象に、4〜5月にかけて実施。「Character.AI」「Nomi」「Replika」など、話し相手や相談相手になってくれるAIコンパニオンの利用について尋ねた。

Common Sense Mediaのレポート

　こうしたAIコンパニオンを利用したことがあるという回答者は72％を占め、33％は会話の練習や心の支え、ロールプレイング、友情や恋愛など、社会的な交流や人間同士のような関係を求めて利用していた。一方、道具またはプログラムとして利用するという回答は46％を占めた。

　AIコンパニオンを利用する理由は「面白いから」が30％と最も多く、次いで「このテクノロジーに興味があるから」の28％だった。それより数は少なかったものの、「アドバイスしてくれるから」（18％）、「いつでも利用できるから」（17％）、「自分のことを批判しないから」（14％）、「友人や家族には言えないことを話せるから」（12％）、「本物の人と話すより楽だから」（9％）、「孤独感が和らぐから」（6％）など、AIに「人間関係」を求める回答もあった。

　それでもAIとの会話を人間との会話と比べた場合の満足度は、「AIの方が低い」が67％と圧倒的に多く、友人と過ごす時間とAIと過ごす時間の比較でも、80％は「友人との時間の方が多い」と回答した。

　AIで学んだスキルを実生活に応用しているというユーザーは39％。半面、AIの反応に不快感を感じたことがあるというユーザーは34％に上る。

　一方でCommon Sense Mediaのテストでは、AIコンパニオンの答えに性的な内容や不快なステレオタイプが含まれることもあった。また、もしも従った場合は命にかかわりかねないアドバイスをするケースもあったという。

個人情報の扱い＆AIの「へつらい」に不安

　もう一つ、Common Sense Mediaが憂慮しているのは個人情報の扱いだ。調査では10代の24％がAIコンパニオンに実名や住所といった個人情報を入力したことがあると回答。しかし、例えばCharacter.AIの利用規約には「Character.AI関連の目的のためにコンテンツを利用できる永続的かつ取り消し不可能なライセンス」を同社に認めるという内容の文言があるという。

　つまりユーザーが入力した個人情報は、同社が保持して手を加えたり商業利用したりすることも可能で、たとえユーザーが自分のアカウントを削除した場合でも、利用され続ける状態は続く。

　AIコンパニオンを巡っては、ユーザーの考えに逆らうことなく同調し、肯定してくれる「へつらい」の傾向も指摘されている。批判的思考力や感情制御能力がまだ発達の途上にある未成年ユーザーにとって、これは憂慮すべき状況だとCommon Sense Mediaは指摘する。

　AIコンパニオンの中には対象年齢を18歳以上としているものもあれば、Character.AIのように13歳の子供向けに宣伝されているものもある。しかし年齢は自己申告制なので、年少のユーザーでも簡単に利用できてしまう。

　Common Sense Mediaは「確実な年齢確認方法が実装され、設計が変更されて関係性操作や感情的依存のリスクが排除されない限り、深刻な害が生じる可能性の方がメリットよりも大きい」と結論付ける。また「そうした現状を考えると、18歳未満はAIコンパニオンを使用すべきではない」と勧告している。