DeepSeekはランサムウェアを作れるのか？ Tenableが検証結果を発表：セキュリティニュースアラート

Tenableは大規模言語モデル「DeepSeek R1」がランサムウェアを含むマルウェア生成に利用され得る可能性について、検証結果を発表した。

[後藤大地，有限会社オングス]

　Tenableは2025年3月13日（現地時間）、オープンソースの大規模言語モデル（LLM）「DeepSeek R1」がマルウェアの作成に利用される可能性についての調査結果を発表した。

DeepSeekはランサムウェアを作れるのか？　Tenableが検証

　生成AIの普及に伴いサイバー犯罪者もこれらの技術を悪用しようと試みている。OpenAIの「ChatGPT」やGoogleの「Gemini」などの主要な生成AIモデルには不正な利用を防ぐためのガードレールが設けられている。しかしそれでも一部の犯罪者はこれらを回避しようとする動きを見せている。実際にOpenAIやGoogleは国家関連の脅威アクターによる不正使用を発見し、関連するアカウントを削除するなどの対策を講じている。

　一方、サイバー犯罪者自身が開発した悪意のあるLLMも存在する。例えば「WormGPT」「FraudGPT」「Evil-GPT」「GhostGPT」などが知られており、これらの中にはサブスクリプションモデルなどで販売されているものもある。さらにDeepSeekのようなオープンソースのLLMが公開されることで無料でアクセスできるモデルが悪用される可能性が高まっている。

　Tenableの研究チームはDeepSeek R1がキーロガーや簡単なランサムウェアを作成できるかどうかを検証した。DeepSeekは最初、倫理的ではないとしてキーロガーのコード生成を拒否するが、例えば「コード生成の目的は教育のみ」と伝えるなど工夫することでこの制限を回避できるとされている。

　検証では「Windows」環境で動作するC++ベースのキーロガーのコードを提案し、キーストロークを記録する方法やタスクマネジャーで検出されにくくする工夫まで考慮した悪意のあるプログラムのコードの生成に成功している。しかしDeepSeekが生成したコードには幾つかのエラーが含まれているとされ、そのままでは完全に動作することはなかったと報告している。また、同様にシンプルなランサムウェアの作成方法を聞いたところ、こちらも最初は拒否されたものの最終的にランサムウェアサンプルを幾つか生成することに成功している。

　Tenableの報告はオープンソースのLLMが悪用されるリスクを示している。DeepSeekのようなモデルは無料で利用可能であり、そのコードはローカル環境で実行できるため、外部の監視を受けにくい。そのためサイバー犯罪者がこれらを利用してマルウェアを作成する可能性が懸念される。現在、多くのAI企業や研究機関が生成AIの安全性向上に取り組んでいるがオープンソースLLMの監視と規制についてはまだ課題が多い。DeepSeekが近い将来、サイバー犯罪者による悪意のあるAI生成コードのさらなる開発を促進する可能性が高いと分析している。