中国製AIが犯罪者の武器に DeepSeekとAlibaba Qwenの危険性を指摘：セキュリティニュースアラート

Infosecurity Magazineは中国製AIである「DeepSeek」および「Alibaba Qwen」がサイバー犯罪に利用され始めていると警告した。以前はフィッシングやスパムメール生成に使われていたが、現在はマルウェア開発にも応用されているという。

[後藤大地，有限会社オングス]

　Infosecurity Magazineは2025年2月5日（現地時間）、中国企業が開発した大規模言語モデル（LLM）「DeepSeek」および「Alibaba Qwen」がサイバー犯罪者の関心を集めていると報じた。これらのLLMはAI愛好家だけでなく、マルウェア開発を試みる攻撃者にも活用され始めていると同社は警告する。

中国製AIが犯罪者の武器に　DeepSeekとAlibaba Qwenの危険性を指摘

　Check Pointの脅威インテリジェンスグループマネジャーであるセルゲイ・シケビッチ氏は同社の「CPX 2025カンファレンス」において、サイバー犯罪者が最新の中国製LLMをテストし、マルウェアの開発や改良を進めていると指摘した。特にAlibaba QwenはDeepSeekほどメディアの注目を浴びていないが、攻撃者の間で最も頻繁に実験されているという。

　これまでLLMは主にフィッシング詐欺やスパムメールの生成に利用されてきたが、その利用範囲がマルウェア開発にまで広がっている。現在のLLMはマルウェア開発においてはまだ不十分だが、OpenAIのようなプロバイダーはソフトウェア開発機能の向上に多額の投資をしており、将来的には犯罪者と企業の双方が活用するようになると分析されている。

　商用LLMの提供者は不正なプログラムの開発を制限するためのセキュリティ対策を講じると考えられるが、「DeepSeek R1」「Alibaba Qwen」「Meta Llama」などのオープンウェイトモデルの新バージョンが登場すれば、マルウェア開発者にとって効果的な代替手段になるとシケビッチ氏は警鐘を鳴らす。

　また、WithSecure ConsultingのAIセキュリティ研究者であるドナート・カピテッラ氏はDeepSeek R1の推論モデルにはプロンプトインジェクション対策が不足しており、同社が開発したAIセキュリティ評価ツール「Spikee」において脆弱（ぜいじゃく）性が確認されたと報告した。他にも低スキルのサイバー犯罪者がAIを活用し始めるケースが紹介されており、「Funksec」と呼ばれるランサムウェアグループがAIを使ってマルウェア開発をした最初のアクティブな事例の一つとされている。

　最近では、あるサイバー犯罪者がAlibaba Qwenを利用して情報窃取型マルウェアを開発した事例も確認されている。この種のマルウェアは認証情報や個人データを盗み出すのに非常に効果的とされ、高度な開発スキルなしに作成が可能とされている。2025年にはAIを搭載した効果的なマルウェアが多数出現することが予想されている。