「どの国のモデルか」は本質ではない　「中国製LLMは危険な指示を実行」発言で話題の専門家に補足してもらった（1/2 ページ）

　中国企業が開発したLLMは、危険な指示をそのまま受け取って実行してしまう――テレビ高知の取材でのセキュリティの専門家の回答が話題だ。

　これに対してXや転載先のYahoo!ニュースのコメントでは中国製モデルを危険視する見方が相次いでいるが、「モデルの国籍は関係ないのでは」といった指摘もある。

　中国製LLMは本当に危険なのか。そして、一連の情報漏えい騒動とAIの関係について、問題の本質はどこにあるのか。渦中の専門家、VLCセキュリティラボの中本有哉代表に聞いた。

中国製LLMは危険？

　テレビ高知の記事では、中本氏の発言として「中国の企業が開発したLLMは、危険な指示や『攻撃する方法を教えて』といった指示を、そのまま受け取って実行してしまう」と引用されているが、これは中国製モデル全般に当てはまるのか。

　中本氏は今回の説明が中国製モデル全般に一律に当てはまるわけではないとし、ガードレールの強さは、開発元やモデル、バージョンによって大きく異なると補足した。また「オープンウェイトモデルは国籍を問わず、手元でガードレールを外すことが技術的に可能」であり、多くの場合APIで提供される米国のモデルも「制限を回避する手法（ジェイルブレイク）によって攻撃に悪用された事例は報告されている」と指摘した。

　取材では「北米企業のモデルと中国企業のモデルは安全性の基準が違うため、中国のモデルはハッキングなどの技術的な悪用を防ぐ対策が北米のモデルに比べて緩い」という旨の発言をし、夕方のニュース番組向けに平易な表現として「倫理観が薄いLLM」という言葉を使ったところ、その部分が強調されてしまったと釈明した。

中国製LLMは攻撃に使われているか？

　ではそもそも、中国製LLMは実際に攻撃に使われているのか。

　中本氏は、直近相次いでいる不正アクセスで中国製LLMが使われたことを「当社が直接確認したわけではない」としつつ、取材では生成AIの普及により攻撃が大幅に効率化されており、その一例として、韓国の金融機関への攻撃に、中国語話者が作って公開していたペネトレーションテストツール「ARTEX」が使用されたケースに触れたという。発言は、昨今の情報漏えい増加が特定のLLMに起因するという趣旨ではないとした。

問題の本質は「どの国のモデルか」ではない

　中本氏は、昨今の情勢における本質的な問題は、攻撃者が「どの国のモデルを使っているか」ではなく、「攻撃者が安全対策の弱い、あるいは外されたAIを自由に使える状況がある」と指摘した。

　その上で同氏は「民間企業や読者の皆さまには、『どのAIが危ないか』よりも、パスワード管理や多要素認証、脆弱（ぜいじゃく）性の早期修正、ログの監視といった基本的なセキュリティ対策を着実に実施していただくことが、AIを使った攻撃への備えとして最も有効だとお伝えしたい」と呼び掛けた。

この記事の著者

関連記事

• 

  国内WebサイトへのAIエージェント攻撃を観測　「8時間弱」続いた攻撃の推移を公開　国内セキュリティベンダー

• 

  相次ぐ情報漏えい、攻撃側のAI活用「間違いない」　防御側はどう使うか　傾向と対策を大手ベンダー各社に聞く

• 

  「異常な事態」、AI悪用は「否定する方が難しい状況」──多発する情報漏えいにセキュリティ専門家が合同で見解　攻撃の特徴と対策方法は