一般に公開されているLLMは、「Llama」や「Gemma」など数多く存在するが、今回は中国のAlibaba(アリババ)が開発している「Qwen(クエン)」を使ってみることにした。Qwenは幅広いサイズのモデルが用意されていることが特徴で、軽量版は普通のPCでも使えるようになっている。
中国製とはいえ、LLMをローカルで動かすだけなので、モデル自体がMac内のデータを海外のサーバに送るといった、セキュリティ上心配な挙動はしない。
一方で、LLMは単なる“頭脳”なので、これをどうやって活用するかも考えなければならない。
今回は実行環境として「Ollama(オラマ)」、AIエージェントプラットフォームとして「OpenClaw(オープンクロー)」、そしてVPN/ネットワークサービスとして「Tailscale(テイルスケール)」を使った。
Qwenが頭脳だとしたら、そのLLMをMac miniに搭載するためのシャシーのような存在がOllamaだ。そして、QwenがMac上のファイルを操作するための「手足」がOpenClawといえるだろう。Tailscaleは、外出先のMacBookやiPhoneから、自宅のネットワーク内のMac miniに“安全に”接続するためのネットワークサービスということになる。
これらの仕組みを整えることで、クラウドAIとやりとりするのと同じように、自宅にあるMac miniのLLMに「○○という書類を探して、取り出して」などと自然言語で話しかけられるというわけだ。
ちなみに、今回の座組を構築する前に、以下の方法を検討した。
1.はChatGPTに内包されている仕組みを使うので、一番簡単だ。Mac mini側とMacBook Airの両方にChatGPTアプリを入れて、しかるべき権限を与えると、MacBook AirからMac miniに格納されたファイルを扱うことができる。しかし、それでは「ローカルLLMを試す」という趣旨から外れてしまう。2.も同じ理由で却下だ。
実は、息子は最初に4.の方法を検討して、実際にクライアントアプリも自作してくれていた。この方法が一番自由度が高く、写真やフォルダのアクセス権も細かく設定できる。また、OpenClawにも依存しないというメリットもある。
しかし、それでは「筆者が自分でやってみる」という枠を超えてしまうし(息子は「Claudeを使えばお父さんでもできるよ」と言ってくれたが)、記事としても「ローカルLLMを体験したことのない人に試してもらう」という領域を超えてしまう。
こうした理由で、3.の「OpenClaw上で、Qwenを動かす」方法に落ち着いたというわけだ。
まず、実行環境であるOllamaをMac miniにインストールする。これは、OllamaのWebサイトから普通にアプリをダウンロードして、インストールできる。簡単だ。
続いて、macOSの「ターミナル」を使って、Ollamaの中にLLMをダウンロードして展開する。今回は最初にQwen-VLの44億パラメーター版(Qwen3-VL 4B)を試すので、ターミナルで以下のコマンドを入力した。
ollama pull qwen3-vl:4b
しばらく待つと、OllamaにQwen3-VL 4Bが導入される。このモデルは「VL」、つまり画像の認識にも対応したものだが、モデルのサイズは約3.3GBと、さほど大きくない。
Qwenに話しかけてみた。「Thinking...」以降に推論のプロセスが目で見えるようになっているので、「ChatGPTのようなクラウドAIではなく、目の前のMac miniの中でLLMが実際に推論している」と実感できるしかし、これだけではMac上のファイル操作ができない。続けてOpenClawをインストールしていく。
OpenClawは2026年の初めに大流行したAIエージェントプラットフォームだ。簡単にいうと、AIがPCを操作できるようにするためのツールだ。
大ブームになったのに、数カ月でそれが沈静化したのは「権限設定が難しいこと」はもちろんだが、「権限を多く与えれば与えるほどリスクが大きくなること」が大きな理由だ。クラウドLLM経由で使う場合は、トークンコストが大きくなりがちなことも問題になった。
しかし、今回のようにローカルLLMで使えばリスクを低減できるし、トークンコストも問題にならない。小さなLLMをローカルで動かす意義のある用途の1つだといえる。
OpenClaw本体をインストールした後、初期設定を行うためにターミナルで以下のコマンドを入力しよう。
openclaw onboard
そしてOllamaから「ローカル」を選択すると、OpenClawはローカルで動作しているOllamaを見つけ、インストール済みのモデル(今回の場合はQwen3-VL 4B)を選択できるようになる。
余談だが、息子によると小型のLLMに広範囲のファイル操作権限を与えるのは、やはり一定のリスクがあるという。今回はテスト導入なのでいいのだが、本番環境で使うならアクセスできるフォルダを限定した方が良いとアドバイスを受けた。
この後、いくつかのLLMをインストールして試行錯誤した結果、「Qwen 3.5 9B」(90億パラメーター)のQ4_K_M版(4bit量子化で軽量化したもの)に落ち着いた。
新型「Mac Studio」の“2番目に強い”構成は約325.4万円! クルマが買えるほどの値段に
Appleが「Mac mini」「Mac Studio」の新モデルを発表 新チップも選択可能で14万9800円から
新型「Mac mini」「Mac Studio」徹底レビュー! ローカルAIはついに“実用域”へ エージェントAIに事務仕事を任せて分かった驚異の進化
新型「Mac mini」「Mac Studio」の“数字”を読み解く――驚異のAI性能と、日米価格設定のからくり
AIモデルの性能競争から降りたAppleの狙いとは? AI時代の“計画的長寿命化”と「Siri AI」がユーザーとアプリをつなぐ理由Copyright © ITmedia, Inc. All Rights Reserved.