AIの「見えない影響力」 米政府とAI企業の衝突が突き付けた問い：世界を読み解くニュース・サロン（3/4 ページ）

[山田敏弘，ITmedia]

AIツール普及で、個人でも悪用できるように

　日本も例外ではない。警察庁によると、AIを使った特殊詐欺の手口が高度化していることが明らかになっている。AIが生成した自然な日本語の文面や、音声合成による「なりすまし電話」が詐欺の成功率を押し上げているとみられる。高齢者を標的にした手口では、家族の声をAIで複製して「事故を起こした」と偽る事案も報告されており、被害の深刻化が懸念されている。

　注目すべきは、これらの悪用の多くが高度な技術力を必要としない点だ。AIツールの急速な普及により、かつては国家機関やプロの技術者にしかできなかった偽造や詐欺が、一般の個人でも実行可能になっている。技術の民主化が、同時に犯罪の民主化をも引き起こしている。

　AIは便利な道具であると同時に、人間の判断や社会制度そのものを揺るがしかねない力を持っている。その影響力は、多くの人が認識しているよりもはるかに大きく、そして深い。その影響は、ときに取り返しのつかない結果を生む。

AIの影響力は大きく、取り返しのつかない結果を生むこともある（画像提供：ゲッティイメージズ）

　2025年には、AIチャットボットが自殺願望を持つ米国人の少年に対して不適切な助言を行ったとして、家族がAI企業を提訴する事件が起きた。チャットボットは少年の深刻な精神状態を適切に判断できず、むしろ状況を悪化させる応答を続けたとされる。

　訴訟では、AI企業が製品の安全性を十分に検証しないまま公開した責任が問われた。AIが「ただのソフトウェア」ではなく、人間の行動や意思決定に影響を与え、時に取り返しのつかない結果を招き得る存在であることを示した象徴的な事件だった。

　AIの影響が特に懸念されるのは、判断力が未成熟な若年層だ。TikTokやInstagramのアルゴリズムは、ユーザーの感情的な反応を最大化するよう設計されており、不安やストレスを抱える若者を有害なコンテンツに誘導する危険性が繰り返し指摘されてきた。AIチャットボットの問題も、この延長線上にある。設計者が想定していない形で、AIが人々に深刻な影響を与えるリスクは今後ますます高まるだろう。