Anthropic、AI悪用レポートを公開　中国AI企業の「蒸留」、各国政府の監視・世論操作、生物兵器につながり得る研究を列挙

　米Anthropicは9月10日（現地時間）、自社AI「Claude」の悪用事例をまとめた脅威インテリジェンスレポート「Detecting and countering misuse of AI: September 2026」を公開した。2025年12月から2026年8月までに検知・遮断した事案を、サイバー攻撃、影響工作、監視、詐欺、生物学的悪用、通常兵器開発、蒸留の7分野に整理している。悪用されたのはClaude Haiku、Sonnet、Opusで、上位モデルのFableとMythos系については蒸留の1件を除いて悪用は確認されなかったという。

正当な研究と区別できなかった生物学的悪用

　最も判断が難しい分野として挙がったのが生物学的悪用で、5件の事例を報告した。鳥インフルエンザの機能獲得研究や、毒素ペプチドのデータベース作成と毒性を最適化する生成パイプラインの構築などが含まれる。ワクチン開発などの正当な研究と危険な病原体の設計は手法が重なるため、悪意の有無を判定できなかったケースがあり、被害の深刻さを踏まえて安全性を最優先して遮断したと説明している。研究者名や所属機関、対象となった病原体は公表していない。Anthropicは、Claude Opus 4やSonnet 4.5などの旧世代モデルは高度な生物学研究を有意に支援できる水準に達しておらず、保護措置も限定的だったとした上で、科学研究の能力が上がった新世代モデルでは制限を強化したとしている。

国家系機関による監視と世論操作

　国家や国家系機関による悪用も広範に及ぶ。監視分野では、中国の国家安全機関に連なるアカウント群が、反体制活動の抑え込みにClaudeを使っていたとして遮断した。地方のサイバー警察部門に関係するとみられる主体が国内向け監視システムの構築に利用した例もあり、香港の民主派、天安門事件の追悼行事に関わる人物、ウイグル支援の活動家、欧米の人権団体などが標的に含まれていた。監視対象には、中国国内の抗議デモの映像や検閲された情報を国外から発信し、Xで約210万人のフォロワーを持つアカウント＠whyyoutouzheleも含まれていた。

　影響工作では9件を報告し、ロシア国営メディア向けの記事・放送原稿の制作ラインにClaudeが組み込まれていた事例や、イランの国家系プロパガンダ機関3組織、マレーシアの選挙を標的にトルコ企業が販売していた世論操作プラットフォーム、フランスの広告会社が約70の偽ニュースサイトで約8900本の記事を配信していた事例などを挙げた。

　通常兵器では、ロシアの個人がClaude Codeで自爆型ドローン群の制御コードを検証していた例や、中国の主体がレーダーや通信を妨害・欺瞞するソフトウェアの開発に使おうとした例を報告している。

中国AI企業による「蒸留」

　蒸留については、Alibaba、DeepSeek、Moonshot AI、MiniMax、Z.aiなど中国のAI企業を名指しし、偽アカウントや盗まれたクレジットカード、認証情報を使ってモデルの能力を無断で抽出し、別のモデルに複製する「産業規模の隠密キャンペーン」と位置付けた。Moonshot AIについては、自社モデル「Kimi」で処理せず、顧客のリクエストを密かにClaudeへ転送していたと指摘している。

　Xiaomiによる蒸留も明らかにした。同社は自社AIモデル「MiMo」とユーザーとの会話やコーディングセッションを保存し、同じやり取りを改めてClaudeに投げて学習データを生成していたという。プロキシ経由で1500以上のアカウントから40万件を超えるリクエストがあり、多くは欧米の開発者が日常的に使うサードパーティのモデルルーティングサービスを経由していた。Claudeの応答をそのままXiaomiのユーザーに返していた形跡はなく、教師ありファインチューニング（SFT）と強化学習（RL）向けのデータ作成が目的とみられる。具体的には、会話ログからの開発環境の再構成、マルチターンの会話の整形、開発者とモデルのやり取りを模した入力と応答の両方の生成、回答品質の判定にClaudeが使われていた。中継されたトラフィックには、数百人のXiaomiユーザーの氏名や連絡先、企業データなどの機微な情報が12以上の言語で含まれていたという。

　Anthropicは2月にDeepSeek、Moonshot、MiniMaxによる約2万4000の不正アカウントと1600万回超のやり取りを公表し、6月にはAlibabaによる過去最大規模の蒸留を指摘しており、今回はその調査を脅威レポートの枠組みに取り込んだ形だ。

研究者の警告投稿の翌日に公開

　この脅威レポートは2025年3月、8月、11月に続くもので、Anthropicは「これまでで最も詳細」と位置付けている。公開の前日には、同社を退職した元従業員のジェイコブ・コクソン氏がXで「OpenAIとAnthropicはともに責任ある行動を取っていない」と投稿し、同社のエバン・ヒュービンガー氏とサミュエル・マークス氏が「AIが全人類を滅亡させる可能性を本気で考えている」と同調して波紋を広げたばかりだった。年内のIPOを控える中での公開でもあり、AI企業自身が示すリスクの見取り図として、通常より注目を集めている。

関連記事

• 

  「Claude」による不正アクセス、4件目が判明──Anthropic、「アライメントの失敗」と評価を修正

• 

  Anthropic在籍の研究者2人も同調──「AIが人類を滅ぼしかねないと本気で考えている」

• 

  中国でAIエージェント急拡大　「24時間無休の秘書」活用　政府は情報漏えいリスク警戒

• 

  OpenAI、ロシアや中国によるChatGPTなどのAIツール不正利用について報告　5件を阻止