AIの「見えない影響力」 米政府とAI企業の衝突が突き付けた問い：世界を読み解くニュース・サロン（2/4 ページ）

[山田敏弘，ITmedia]

政治・経済から日常生活まで――AIの“負の側面”が拡大

　米国防総省の関係者によれば、米軍はミサイル防衛システムの高度化、作戦分析の自動化、リアルタイムの情報収集・処理など、幅広い軍事領域でAIを活用する長期計画を進めている。

　実際、AIを搭載したドローンの自律的な編隊飛行や、衛星画像の即時解析といった分野では、すでに実用段階に入っている。現代の戦場においてAIは不可欠な技術基盤になりつつある。それを提供できる民間企業との連携は、安全保障政策の中心課題と位置付けられている。

　これはアンソロピック1社だけの問題ではない。マイクロソフトはオープンAIと提携して米軍向けAIサービスを積極的に展開。パランティア・テクノロジーズも軍事分析ツールを提供している。AI企業の中でも軍事協力に対するスタンスは大きく分かれており、どの企業がどこまで軍に協力するかという判断が、今後の安全保障と産業の双方に重大な影響を与えることになる。

AI企業の中でも、軍事協力に対する姿勢は異なる（画像提供：ゲッティイメージズ）

　AIを巡る問題は軍事領域にとどまらない。社会のあらゆる場面で、AIの悪用が急速に拡大している。その影響はすでに国際政治、経済、治安、そして個人の日常生活にまで及んでおり、その手口は年々巧妙かつ大規模になっている。

　まず目を引くのが、国家レベルでの組織的な悪用だ。例えば、北朝鮮の工作員がAIを駆使して欧米企業のリモート求人に応募し、IT職として採用された事件があった。AIで精巧な英文の履歴書を自動生成し、顔認証や音声面接をディープフェイク技術で突破。採用後に得た給与は、北朝鮮政府の資金源として送金される仕組みだった。

　選挙への介入も深刻さを増している。米国では2024年、大統領選の予備選を前に、ジョー・バイデン大統領（当時）の声を精巧に模倣したAIロボコールが有権者に一斉送信された。バイデンの声で電話がかかってきて「投票に行くな」と告げられるもので、一般の有権者が本物と区別するのはほぼ不可能な完成度だった。作成に要したコストはわずか数万円程度とされ、低コストで大規模な選挙妨害が可能になっている現実を示した。

　さらにAIは、身近な個人攻撃にも使われ始めている。直近では米カリフォルニア州の警察組織内で、同僚を中傷するディープフェイク動画が作成されていたことが発覚。民族差別的な内容を含む偽映像が深刻な職場トラブルに発展した。加害者はAIツールを使って短時間で偽動画を作成し、被害者に大きなダメージを与えた。