OpenAI、高市首相を狙った中国関連の世論工作を報告 ChatGPTは加担を拒否

[ITmedia]

　米OpenAIは、中国の法執行機関に関係する個人にリンクされたChatGPTアカウントが、日本の自由民主党総裁の高市早苗氏（2025年10月21日に総理大臣に就任）を標的とする大規模な秘匿性の高い世論工作キャンペーンの計画と記録に使用されたことを、2月に更新した「Disrupting malicious uses of our models」（PDF）レポートで報告した。

　このレポートによると、2025年10月中旬、高市氏が内モンゴルの人権状況を公に批判したことを受けて立案されたという。 攻撃者はChatGPTに対し、高市氏に対する否定的なコメントの拡散、外国人居住者を装った移民政策への批判、偽アカウントを用いた生活費高騰への不満煽動、同氏を極右と非難するミームの作成、米国関税への怒りの煽動などを含む、多角的な信用失墜計画の作成を要求した。しかし、ChatGPTはこの要請を拒否し、攻撃計画への直接的な支援を完全に阻止したとしている。

　AIによる計画立案はブロックされたものの、攻撃者は最終的にAIモデルを使用せずに独自の工作を実行に移した。10月末になって、このユーザーが工作の「進捗報告書」のテキストを推敲するようChatGPTに依頼したことから、キャンペーンの実行が裏付けられたという。この報告書からは、ChatGPTを計画の推敲や記録に使う一方で、実際のコンテンツ生成やデータ収集などにはDeepSeekやQwenといった中国発のローカルAIモデルを組み合わせて使っていたことも明らかになったとしている。

　公開情報調査（OSINT）では、10月下旬から11月にかけて、XやPixiv、YouTubeなどで「#右翼共生者」や「#右翼の共生者」といったハッシュタグを利用し、高市氏を極右団体と結びつける画像や台湾有事に関する発言を批判する投稿が行われていたことが確認されている。

「高市早苗が一水会代表と密会」というキャプション付きの偽投稿（左）、中国語で「関税50％の衝撃！　米国産牛肉が日本の市場の半分を飲み込んだ」と記載された偽投稿（画像：OpenAIのレポートより）

　OpenAIは、このキャンペーンがもたらした実際の影響は極めて限定的なものだったとしている。攻撃者がChatGPTに遂行させようとした進捗報告書によると、作戦開始から数日以内に約200の関連アカウントが各プラットフォームによって削除されている。さらに、残存したコンテンツについても、YouTube動画の再生回数は1桁にとどまり、XやPixivでの投稿もエンゲージメントがほぼゼロであったなど、実際のオーディエンスにはほとんど届かずに不発に終わったと評価されている。

　OpenAIはこのような悪用キャンペーンを検知するために、自社モデル内の不審な入力ログの監視を起点とし、外部プラットフォームでのオープンソース調査や他社との情報共有を組み合わせているという。