検索
連載

新型「Mac mini」「Mac Studio」徹底レビュー! ローカルAIはついに“実用域”へ エージェントAIに事務仕事を任せて分かった驚異の進化本田雅一のクロスオーバーデジタル(2/4 ページ)

ついに新型の「Mac mini」「Mac Studio」が発売される。久しぶりの新モデルは、特にローカルAIという観点でかなり強力になっている。発売前に先行して試してみた率直な感想をまとめたい。

Share
Tweet
LINE
Hatena

Mac StudioをAIサーバとして動かす

 さて、ここからはM5 Ultraチップ搭載のMac Studioに2つのAIモデルをダウンロードして「AIサーバ」として運用してみよう。

 まず、大量の文書処理を行うことを想定して、「DeepSeek V4 Flash」の2840億パラメーター仕様(活性130億/MITライセンス)を導入してみたのだが、これが驚くような性能を発揮してくれる。

 画像は扱えないが、文章に限れば非常に賢く、コンテキスト(一度に読み込み、把握できる情報量)は最大100万トークンまで対応する。文庫本/新書換算すると5〜8冊程度の文章量だ。モデルのサイズは4bit量子化版なら140GB台に収まるため、残りのメモリをコンテキスト長に割り当てられる。

 DeepSeek V4は入力を圧縮して記憶する構造となっているため、今回レビューする256GBメモリ構成ならコンテキスト長を「256K」に設定しても“余裕”がある。別のAIモデルと同居させつつ、切り替えながらタスクをこなすことが可能だ。

 そして“正確さ”が必要な日々の仕事を想定して、Alibabaが8月に公開した「Qwen3.8-27B」(Apache 2.0ライセンス)も導入してみたのだが、これも使い勝手が良かった

 コンテキストは最大26万トークンにとどまるが、こちらはマルチモーダル対応で画像も読める。こちらは8bit量子化版(約29GB)を余裕でロード可能だ。伝票の金額やメールの仕分けなど、間違えられたら困る処理は、量子化ビット数を上げたモデルで誤りを減らす方がいい。トランザクション処理ならコンテキストは「32K」程度でも十分で、会議録のような長めの入力でも「64K」あれば大丈夫だろう。

 ただ、このモデルは推論が遅いことが難点であるため、実際に使う際は推論を「ゼロ」か、浅めに設定するのが良い。

 2つのAIモデルは合わせて215GB〜220GB程度のメモリを消費する。AIモデルのメモリ容量を合計で240GB程度までにしておけば、メモリにロードしたまま併存もできる。

 LM Studioであれば、APIから呼ばれたモデルを自動でロードし、使わなくなってから一定時間(標準で60分)経過するとアンロードする仕組み(JIT Load/TTL)があるので、別の専門モデルを呼び出したい場合はそれをうまく使えば対応可能だ。

DeepSeek V4 Flash
DeepSeek V4 Flashの2840億パラメーター仕様

 準備ができたところで、ある1日で複数の“仕事”をさせてみることにした。

 朝、スキャンした伝票と経費の写真が入ったフォルダーをLM Studio Bionicに渡し、定型処理を記憶させたスキルを起動する。するとQwen3.8-27Bが「日付」「支払先」「金額」を読み取って表計算シートに書き出し、「二重提出」と「金額の不一致」にチェックを入れる。

 筆者の環境では20枚ほど渡したところ、30分以内には処理を完了し誤読は1枚だった。「誤読があるのか」と思うかもしれないが、誤読した不明瞭な伝票は「不明な伝票」としてはじいていたので、誤読の心配はない(これだけを手動入力すればいい)。

 日中の会議では、Bionicの音声入力をオンにしておくと発言がそのままテキストになり、指定したフォルダーに保管されていく。そのフォルダーを丸ごとDeepSeek V4 Flashに渡してから「議事録を作成した上で、決定事項と未解決事項をまとめておいて」と頼んでおけば、別の作業をしているうちに記録される。

 Bionic自体には自動実行機能はないが、「自動でやってほしい」というのであれば必要に応じてOpenClawを別途動かしておけばいい。

 会議が終わった後、架空の契約書の束(10万トークン超)を同じモデルに一括で渡して処理させてみたが、支払条件の食い違いを“全て”見つけられた。うまくいった手順は、「今やったことをスキルにして」といえば保存され、翌月からはスキル名を呼び出してお願いすれば一連の作業を一言で完遂してくれる。

M5 Ultraチップ搭載のMac Studioを使って「DeepSeek V4 Flash」のThinkingモードで文書分析を行っている様子

 決まった時刻に決まったタスクを実行したい場合は、先述のOpenClawのような自動実行型のエージェントも必要だ。macOSのショートカットや「launchd」を介してLM StudioのAPIを叩いて自動実行することもできる。どのモデルを使って処理するかは、リクエスト時の文章で書くだけで、LM Studioが自動的に振り分けてくれる。

リモートでも使える!

 このAIサーバはリモートでも使える。Mac StudioでLM Linkをオンにすると、MacだけではなくWindows PCのLM Studio Bionic、あるいはiPhone/iPadの「Locallyアプリ」から接続し、まるでローカルにあるAIモデルのように使える。通信は端末同士で暗号化され、会話履歴は手元に残ってサーバには残らない。エージェントの本体が作成するファイルの読み書き、ローカルツールの実行は各自の手元で動き、推論だけをMac Studioにリモートで依頼できる。

M5 Ultraチップでの画像生成も試す

 Mac Studioのメモリ搭載量の多さを生かして、Mac向けStable Diffusionアプリ「DiffusionBee」において、最大規模のモデル「FLUX.1 dev」を用いて、テキストからの画像生成テストも行ってみた。

 FLUXのような拡散モデルでは、プロンプトを長く複雑にしても生成時間はほとんど増えない。その後の「デノイジング処理」の計算量を決めるのは、主に解像度とステップ数である。

 掲載している画像は768×768ピクセルのもので、生成テストにちょうどいいサイズ感だ。この程度なら1枚当たりわずか50秒で生成される。何度もリトライを繰り返せる速度感だ。

 なお、FLUX.1 devのテキストエンコーダーは512トークン程度が上限で、それを超えた部分は切り捨てられるため、その上限ギリギリに収まるようテストは行っている。FLUX.1は商利用できないライセンスだが、このモデルでサクサク動くならば、他のモデルを使っても実用性の高い画像生成が行えるはずだ。

その1
DiffusionBee(FLUX.1 dev)で生成した画像の1つ目。50秒程度でこのクオリティーの画像が出てくる
その2
画像の2つ目。人物写真をレンズまで指定して描画してもらっている
コンパクト
これだけパワフルなのに、机上で使えるサイズ感であるのがすごい

Copyright © ITmedia, Inc. All Rights Reserved.

ページトップに戻る