ローカルLLMは「無料だけれど安くない」　個人と企業は何に価値を見いだすのか／中国AIは危険？（2/2 ページ）

公開 2026年09月09日 12時16分

更新 2026年09月09日 12時24分

著者

井上輝一

[ITmedia]

印刷する Googleで優先するソースとして追加

中国製AIは危険ではないか？

　この原稿を執筆している最中、日経が8月31日に公開した「中国AIという選択肢」という記事に対し、批判的な反応が相次いでいた。主には「日本企業の機密情報を中国に漏えいさせる気か」という旨の批判のようだ。前回から見ているように、ローカルLLMとして使われているLLMの大半は中国系のモデルである。これらの安全性はどうなのか。

　これについては利用形態を整理しないと議論がねじれたままになる。

　まず「中国企業のサービス」として利用する形態（Webブラウザやアプリからアクセスするチャットサービスや、中国国内にあるサーバのAPI利用など）について、懸念が拭えないのは事実だ。中国には国防動員法や国家情報法があるため、中国企業内にあるデータは中国政府に参照される恐れがある。参照されて困るような、個人情報や機密情報の入力は避けるべきだ。

　一方で、自身で管理できるPCやサーバ上にウェイトを置いて利用する形態（ローカルLLMやオンプレミス運用）については、この懸念は当てはまらない。ウェイトや推論エンジンに、情報を外部に送る機能はないからだ。もちろんオープンな技術であるからこそ、どこかの経路に汚染が紛れ込んでいないかは国にかかわらず気にかける必要はある。

　漏えい観点でのもうひとつの安全な方法としては、信頼可能なクラウド・サーバ事業者にモデルを置いて利用する形態がある。AWSやGoogle CloudではDeepSeekやQwenなどのモデルを提供している。日本国内に閉じたければ、さくらインターネットもQwenやKimiなどを提供している。

　漏えい以外の懸念として挙がるのは「回答にバイアスがかかるのではないか」ということだ。中国政府に不利な回答をしない、あるいは利用していると知らず知らずのうちに中国に取り込まれる……といった話だ。

　「不利な回答をしない」のは一部その通りで、それが利用上問題になるのであれば、そうした応答拒否をしないように調整した「無検閲版」を使う手がある。そのようなモデルがあるのもオープン技術ならではといえる。

　「知らず知らずのうちに中国に取り込まれる」については、これはあくまで筆者の私見だが、それを明示的に狙って達成できる技術があるなら、中国モデルはすでに米国フロンティアモデルの性能を上回っていると思われる。可能性は低いが、ない話とまでは言い切れないので、そこまで不安ならば無理に使う必要はない。無検閲版を使うのも対処法の一手ではありつつ、あるいは日米中のオープンウェイトモデルを並べて回答を見比べたり、束ねて総合的な回答としたりすることでバイアスやそうした意図を打ち消す方法も考えられる。

　したがって、危険かどうかは使い方次第だ。道具をどう使いこなすかはそれぞれの用途に合わせて自分自身でよく考えよう。

ローカルLLMは「無料だけれど安くない」

　ここまでローカルLLMのメリット面を見てきたが、クラウドAIと比べたときに“劣るもの”も当然ある。性能でいえば、基本的にはクラウドAIを超えられないとみるべきだ。

　なぜならクラウドの方が計算資源ははるかにリッチで、ローカルには置けないほど大きなモデルを置くことができるからだ。仮に同じモデルを走らせたとしてもクラウドの方が速く結果を返すだろう。特に推論特化のチップを提供するクラウドとして「Cerebras」や「Groq」があるが、これらは最先端のGPUの推論速度と比べても10倍を超えるような速度を見せる。

Cerebras CloudでQwen3.8-27Bが利用可能になったので使ってみたところ、1100tpsという爆速で推論が実行された

　モデルとしても、オープンモデルがクローズドモデルに性能で勝つことは難しい。最近は驚くべきことに、GLM-5.3やKimi K3といったオープンモデルが一部のクローズドフロンティアモデルに並ぶ性能を見せるといったことはあるものの、これらはローカルでまともに動かせるような大きさをしていない。コンシューマGPUやDGX Sparkで動かせるモデルはより小型で、モデルサイズが賢さを決めるという「スケーリング則」がある以上は「クラウドAIほどの賢さはない」と見るべきだ。それでも十分に賢い、というのもまた事実ではあるものの。

　次に厳しいのがコスト面だ。心理的には「ハードウェア買い切りと電気代で使い放題」は安心できるが、そのためには数十万円のGPUや100万円のマシンをまず買わなければならない。しかもPC市場はAIデータセンター需要に半導体を奪われているので、メモリもGPUもSSDも高騰している。

　翻ってクラウドサービスでは規模の経済が働く上、推論のバッチ処理が可能なので効率的にAIを提供できる。API価格も競争原理などが働き、一時期の価格よりは落ち着いている。定額サブスクの最上位プランは各社約3万円／月なので、値上げや変更がない限りは100万円あれば2年半はフロンティアモデルをほぼ無制限に使える。

　コスト関連では、ローカルLLMの運用によっては「火災リスク」もある。NVIDIAのコンシューマ向けハイエンドGPU「GeForce RTX 5090」や「RTX 4090」は、高負荷時には400～600W程度の電力を消費する。母艦となるPCと合わせると、電子レンジやドライヤーを動かしているようなものだ。それほどの大電力を扱う上、GPUと電源をつなぐケーブルがセンシティブで、適切に扱わないと接触不良などの理由から発火する、といった事例が以前から複数報告されている。接触不良ではないようだが、直近では落合陽一氏もRTX 5090の発火を報告していた。

　したがって、単純な性能とコストだけで費用対効果を見てしまうと、ローカルLLMが勝てる場面は実は少ない。ローカルLLMの主な価値は「自由や保険、ガバナンス、買い切りの安心」にあると認識するべきだ。

　最先端の知能が必要な仕事にはクラウドを使い、外に出せないデータや外部サービスへの依存を減らしたい業務にはローカルを検討する。大規模なオープンモデルをクラウドで使う選択肢も含め、用途に応じて選ぶことが大切だ。

　では、こうした選択肢の土台となるモデルを、企業はなぜ無料で公開するのか。次回は、ブームを支える企業と国家の思惑を追う。

印刷する

SpecialPR

この記事の著者

井上輝一

2016年3月からITmediaにジョイン。ITmedia Mobile、PC USER、LifeStyle、ヘルスケアで編集・執筆を兼務。2017年4月からITmedia NEWSでの兼務も開始。2019年4月にNEWS専属となる。スマートフォンやPCといったガジェット系の他、理系（神経科学）のバックグラウンドを生かして科学系のネタや、量子コンピュータ、ブロックチェーン、AIなど多岐に渡って取材している。