「Siri AI」の進化に「Geminiそのまま」の誤解――現地取材で見えた“新生Apple Intelligence”の全貌(3/4 ページ)
最大で20Bパラメータをオンデバイスで動かす
AFMを構成するAIモデルの中でも特徴的なのが、オンデバイスAI向けのAFM 3 Core Advancedだ。このモデルは、トータルで200億(20B)もの巨大なパラメータ数となっている。
このクラスのものを動かすのであれば、一般的にはメモリが32GBでもギリギリで、64GBは必要。余裕を持って動作させるには128GBが望ましい、とされている。
だがAFM 3 Core Advancedの場合、動作条件は「12GBのメモリ」。「iPhone 17 Pro」や「iPhone Air」でも動作する。
メモリ削減の秘密はフラッシュメモリの活用にある。一般的にLLMはモデル全体をメモリに読み込んで動作するため、高速かつ大容量のメモリを必要とする。応答性を上げるためにモデルの一部を中心に使う仕組みである「Mixture of Experts(MoE)」であっても、モデル自体はメモリに全てロードする必要がある。
しかしAFM 3 Core Advancedの場合、プロンプトの文脈に応じてモデルの必要な部分だけをメモリに読み込む仕組みとなっている。そのため、メモリ消費量は2Bから4BくらいのAIモデルと使った時と同等で済む。だから12GBのメモリでも動作するのだ。ローカルLLMの活用に特化した、非常に有効な技術と言っていい。
最新機種でなくても、第3世代Apple Intelligenceは動作する
一方で、12GBといえど、Apple製品の中では比較的ハイエンドな部類に入る。iPhoneの場合iPhone 17 ProやiPhone Air、Macの場合「M3以上でメインメモリを12GB搭載した製品」となっている。先日発売され、低価格であることで話題になった「MacBook Neo」では動作しないことになる。
これはなかなか厳しい条件だ。
ただし、「これらの機種でなければ第3世代Apple Intelligenceは使えない」というのは誤解だ。
Apple Intelligence自体の動作対象機種は変わっていない。iPhoneで言えば「iPhone 15 Pro以降」の製品。メインのAIモデルとして使うAFM 3 Coreのパラメータ数は3Bで、Apple Intelligenceが使えるどの機種でも問題なく使えるため、基本的な存在として利用される。機種によって使えないこともあるのはAFM 3 Core Advanced、ということになる。
では、AFM 3 Core Advancedはどれだけ使われているのか、という話になると、これが「意外となくても使える機能は多い」というのが実情であるようだ。
AFM 3 Core Advancedはまず、Siri AIの音声出力改善に使われている。それ以外にもいくつかの機能で使われているようだ。しかし、「ショートカットの自然文による設定」や「写真の加工」といった処理は、基本的にPCCの側で行われているという。
今後はアプリ内からAFM 3 Core Advancedを使う例などが増えていく可能性は高いものの、Apple製品の中での最初の利用は、どちらかといえば「音声出力改善」であるようだ。その上で、ベーシックなモデルであるAFM 3 Coreも機能アップしている。
Appleは独自の技術でローカルLLMを強化しているものの、同時にクラウド上にあるPCCでの処理量も増えており、その結果として、過去のApple Intelligenceよりも賢い処理が行えるようになった……と考えて良さそうだ。
インフラはGoogle+NVIDIAに
そして、PCCに関する最大の変化が「Appleのプロセッサから米NVIDIAに変わった」ことだ。
現状のPCCは、iPhone用プロセッサをベースにした独自ハードウェアを、Appleのデータセンターに配置して動かしている。
だが、第3世代Apple Intelligence用のPCCは「Google Cloud」のデータセンター内に配置される。NVIDIAのGPUを使って3社が協力して開発したものだ。プロセッサこそ、Apple独自のものからNVIDIAのものに変わったが、仕組みとしてはPCCであることに変わりはない。だから、プライバシーの保護という面ではこれまでと同じである。
一方、世界中のGoogle Cloudのファシリティを使うようになるため、各地域からの応答遅延は小さくなる可能性が高い。PCCで使うサーバの性能は大幅に向上するので、AFM 3 Cloud Proのような性能の高い推論モデルの他、ADM 3 Cloud(Image)での画像生成のクオリティーも上がっている。
性能が上がるとよりいろいろなことができる。ある意味で、第3世代Apple Intelligenceの性能は、PCCの性能アップによって実現されている部分が多い……という言い方もできるだろう。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
GMO、ランサム被害にあった顧客に新しいPC提供へ 犯行グループは1人の顧客情報公開か
-
2
NECのルータ「Aterm」、PHP脆弱性の影響なし 設定画面URLの「.php」は無関係
-
3
GMO、不正アクセス実行犯の手がかりに懸賞金 1億5000万円規模
-
4
「楽天トラベル」に不正アクセス 顧客情報最大約260万件など流出か 予約者約3.6万件のクレカ情報も
-
5
auメールで朝から障害 全国で利用しづらい状況に
-
6
GMO、攻撃者の公開情報に「アクセスは絶対に控えて」 悪質な拡散者には法的措置を準備
-
7
So-net、会員情報約259万件が漏えい 一部メールサービスではパスワードも流出
-
8
メアドを検索→AIで“その人専用フィッシングメール”を生成する手法、クリック率が約2.7倍に 7000人以上で実験
-
9
IPO目論見書に「AIは人類の存亡リスク」「コードの9割はClaude製」 Anthropicが示した規格外の見立て
-
10
Apple、M6搭載の14インチ「MacBook Pro」発表 AI性能向上、33万9800円から
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR