OpenAI、高市首相を狙った中国関連の世論工作を報告 ChatGPTは加担を拒否
米OpenAIは、中国の法執行機関に関係する個人にリンクされたChatGPTアカウントが、日本の自由民主党総裁の高市早苗氏(2025年10月21日に総理大臣に就任)を標的とする大規模な秘匿性の高い世論工作キャンペーンの計画と記録に使用されたことを、2月に更新した「Disrupting malicious uses of our models」(PDF)レポートで報告した。
このレポートによると、2025年10月中旬、高市氏が内モンゴルの人権状況を公に批判したことを受けて立案されたという。 攻撃者はChatGPTに対し、高市氏に対する否定的なコメントの拡散、外国人居住者を装った移民政策への批判、偽アカウントを用いた生活費高騰への不満煽動、同氏を極右と非難するミームの作成、米国関税への怒りの煽動などを含む、多角的な信用失墜計画の作成を要求した。しかし、ChatGPTはこの要請を拒否し、攻撃計画への直接的な支援を完全に阻止したとしている。
AIによる計画立案はブロックされたものの、攻撃者は最終的にAIモデルを使用せずに独自の工作を実行に移した。10月末になって、このユーザーが工作の「進捗報告書」のテキストを推敲するようChatGPTに依頼したことから、キャンペーンの実行が裏付けられたという。この報告書からは、ChatGPTを計画の推敲や記録に使う一方で、実際のコンテンツ生成やデータ収集などにはDeepSeekやQwenといった中国発のローカルAIモデルを組み合わせて使っていたことも明らかになったとしている。
公開情報調査(OSINT)では、10月下旬から11月にかけて、XやPixiv、YouTubeなどで「#右翼共生者」や「#右翼の共生者」といったハッシュタグを利用し、高市氏を極右団体と結びつける画像や台湾有事に関する発言を批判する投稿が行われていたことが確認されている。
OpenAIは、このキャンペーンがもたらした実際の影響は極めて限定的なものだったとしている。攻撃者がChatGPTに遂行させようとした進捗報告書によると、作戦開始から数日以内に約200の関連アカウントが各プラットフォームによって削除されている。さらに、残存したコンテンツについても、YouTube動画の再生回数は1桁にとどまり、XやPixivでの投稿もエンゲージメントがほぼゼロであったなど、実際のオーディエンスにはほとんど届かずに不発に終わったと評価されている。
OpenAIはこのような悪用キャンペーンを検知するために、自社モデル内の不審な入力ログの監視を起点とし、外部プラットフォームでのオープンソース調査や他社との情報共有を組み合わせているという。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
孫正義氏が明かす、アンソロピック出資見送りの舞台裏 「僕の失敗」「あん時入れときゃよかった」
-
2
孫正義氏が「墓石に刻んでほしい」と明かした言葉 流した涙、もう「時間との勝負」やり残したことは?
-
3
「e-F@ctory」から次の進化へ、三菱電機が描くAI主体の自律型工場
-
4
「オントロジー」とは結局何なのか Palantir、Databricks、Snowflake、NVIDIAで中身が違う理由
-
5
NotebookLMに公式APIが登場 WebページやYouTube動画の取り込みを自動化でき、MCPでAIエージェントからも使える
-
6
コマツ油機開発センタが挑む設計プロセス改革、ナレッジ検索/整備に生成AI活用
-
7
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
8
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
9
PFUがファンレスエッジAIデバイスを開発、自然言語入力でAI解析機能を簡単構築
-
10
「AIによる鍵の不正利用」を生体認証で防ぐ日立の新技術、サイバー攻撃対策にも
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR