「Siri AI」の進化に「Geminiそのまま」の誤解――現地取材で見えた“新生Apple Intelligence”の全貌(3/4 ページ)
最大で20Bパラメータをオンデバイスで動かす
AFMを構成するAIモデルの中でも特徴的なのが、オンデバイスAI向けのAFM 3 Core Advancedだ。このモデルは、トータルで200億(20B)もの巨大なパラメータ数となっている。
このクラスのものを動かすのであれば、一般的にはメモリが32GBでもギリギリで、64GBは必要。余裕を持って動作させるには128GBが望ましい、とされている。
だがAFM 3 Core Advancedの場合、動作条件は「12GBのメモリ」。「iPhone 17 Pro」や「iPhone Air」でも動作する。
メモリ削減の秘密はフラッシュメモリの活用にある。一般的にLLMはモデル全体をメモリに読み込んで動作するため、高速かつ大容量のメモリを必要とする。応答性を上げるためにモデルの一部を中心に使う仕組みである「Mixture of Experts(MoE)」であっても、モデル自体はメモリに全てロードする必要がある。
しかしAFM 3 Core Advancedの場合、プロンプトの文脈に応じてモデルの必要な部分だけをメモリに読み込む仕組みとなっている。そのため、メモリ消費量は2Bから4BくらいのAIモデルと使った時と同等で済む。だから12GBのメモリでも動作するのだ。ローカルLLMの活用に特化した、非常に有効な技術と言っていい。
最新機種でなくても、第3世代Apple Intelligenceは動作する
一方で、12GBといえど、Apple製品の中では比較的ハイエンドな部類に入る。iPhoneの場合iPhone 17 ProやiPhone Air、Macの場合「M3以上でメインメモリを12GB搭載した製品」となっている。先日発売され、低価格であることで話題になった「MacBook Neo」では動作しないことになる。
これはなかなか厳しい条件だ。
ただし、「これらの機種でなければ第3世代Apple Intelligenceは使えない」というのは誤解だ。
Apple Intelligence自体の動作対象機種は変わっていない。iPhoneで言えば「iPhone 15 Pro以降」の製品。メインのAIモデルとして使うAFM 3 Coreのパラメータ数は3Bで、Apple Intelligenceが使えるどの機種でも問題なく使えるため、基本的な存在として利用される。機種によって使えないこともあるのはAFM 3 Core Advanced、ということになる。
では、AFM 3 Core Advancedはどれだけ使われているのか、という話になると、これが「意外となくても使える機能は多い」というのが実情であるようだ。
AFM 3 Core Advancedはまず、Siri AIの音声出力改善に使われている。それ以外にもいくつかの機能で使われているようだ。しかし、「ショートカットの自然文による設定」や「写真の加工」といった処理は、基本的にPCCの側で行われているという。
今後はアプリ内からAFM 3 Core Advancedを使う例などが増えていく可能性は高いものの、Apple製品の中での最初の利用は、どちらかといえば「音声出力改善」であるようだ。その上で、ベーシックなモデルであるAFM 3 Coreも機能アップしている。
Appleは独自の技術でローカルLLMを強化しているものの、同時にクラウド上にあるPCCでの処理量も増えており、その結果として、過去のApple Intelligenceよりも賢い処理が行えるようになった……と考えて良さそうだ。
インフラはGoogle+NVIDIAに
そして、PCCに関する最大の変化が「Appleのプロセッサから米NVIDIAに変わった」ことだ。
現状のPCCは、iPhone用プロセッサをベースにした独自ハードウェアを、Appleのデータセンターに配置して動かしている。
だが、第3世代Apple Intelligence用のPCCは「Google Cloud」のデータセンター内に配置される。NVIDIAのGPUを使って3社が協力して開発したものだ。プロセッサこそ、Apple独自のものからNVIDIAのものに変わったが、仕組みとしてはPCCであることに変わりはない。だから、プライバシーの保護という面ではこれまでと同じである。
一方、世界中のGoogle Cloudのファシリティを使うようになるため、各地域からの応答遅延は小さくなる可能性が高い。PCCで使うサーバの性能は大幅に向上するので、AFM 3 Cloud Proのような性能の高い推論モデルの他、ADM 3 Cloud(Image)での画像生成のクオリティーも上がっている。
性能が上がるとよりいろいろなことができる。ある意味で、第3世代Apple Intelligenceの性能は、PCCの性能アップによって実現されている部分が多い……という言い方もできるだろう。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
「Xが情報収集に役立たない……」熊本地震で不満の声続出 「Twitterを返して」
-
2
メルカリ、梨の転売疑惑に「盗品の出品は確認されず」 誹謗中傷には利用制限も
-
3
「こんなのに追われたら……」急斜面もやすやす爆走、中国製の車輪付き四足ロボのデモ動画が話題 最高時速20km超
-
4
検索結果に「詐欺ではありません」と表示させる詐欺手口、警視庁が注意喚起 AI要約も餌食に
-
5
Z世代に聞く次の流行、「AIイラスト」が1位に 「Claude Code」も上位
-
6
東野圭吾さん死去、Xなどで追悼相次ぐ 「ガリレオ」など数々の人気作、エンジニアから転身
-
7
NVIDIAやMicrosoftなど30社超、オープンAIの防御ツール共同開発の「Open Secure AI Alliance」設立
-
8
「あ、その情報メモしたい!」を叶えるワイヤレスイヤフォン、Nothing「Ear (3a)」
-
9
はてな、11億円流出の調査報告書を公開 偽警察、口外禁止、残業・休出200時間超、孤立……ほころびが連鎖
-
10
有識者はGoogleやX、Meta、ドワンゴを名指しで批判……総務省、偽広告や誹謗中傷に発信・拡散前の対策求める
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR