Innovative Tech(AI+)
米Appleの独自AI「Apple Intelligence」の技術詳細 基盤モデルや学習データなどを解説(1/3 ページ)
Innovative Tech(AI+):
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。
X: @shiropen2
米Appleは、年次開発者会議「Worldwide Developers Conference 2024」(WWDC24)において、iOS 18、iPadOS 18、macOS Sequoiaに統合される独自AI「Apple Intelligence」(以下、Apple AIと表記)を発表した。このシステムの基盤モデルについて、Appleがブログで説明していたので簡潔にまとめたい。
Apple Intelligenceの中核をなすのは、2つの基盤モデルである。1つはデバイス上で動作する約30億のパラメータを持つモデルで、もう1つはAppleのプライベートクラウドで利用可能なより大規模なサーバベースのモデルだ。
これらの基盤モデルは、ユーザーがApple製品を使って日常的な活動を行うのに役立つことを目的として作成したもの。開発においては、自社の4つの価値観に基づいた責任あるアプローチを取っている。その原則は、「ユーザーのエンパワーメント」「多様性の尊重」「慎重な設計」「プライバシーの保護」の4つの柱から成り立っている。
ユーザーのニーズに応える便利なツールの提供を目指す一方で、ステレオタイプや偏見の助長には細心の注意を払う。設計から評価に至るまで、倫理的な配慮を欠かさない。オンデバイス処理の活用など、プライバシー保護のための技術的な工夫も怠らない。
個人データを使用しない学習方法
Appleは2023年にリリースしたオープンソースプロジェクト「AXLearn」フレームワークを使って、基盤モデルを学習している。このフレームワークは、機械学習フレームワーク「JAX」とコンパイラ「XLA」の上に構築されており、TPUやクラウド上のGPU、オンプレミスのGPUなど、さまざまなトレーニングハードウェアやクラウドプラットフォームで高い効率とスケーラビリティを実現している。
独自の改良として、データやモデル、シーケンス長などの複数の次元で並列化(テンソル並列処理やFSDPなど)を組み合わせて行うことで、大規模モデルを現実的な時間で学習できるようにしている。
基盤モデルの事前トレーニングには、特定の機能を強化するために選択されたデータや、独自のクローラー「AppleBot」で収集した公開データを使用。ただし、プライベートな個人データやユーザーとのやりとりは、基盤モデルのトレーニングには一切使用していない。インターネット上で公開されている社会保障番号やクレジットカード番号などの個人を特定できる情報を削除するためのフィルターを適用している。
データの質がモデルの成功に不可欠であるため、学習後にも人間がアノテーションしたデータと合成データの両方を取り入れ、データを慎重に選ぶキュレーションと不要なデータを排除するフィルタリングの手順を実施。そのために、2つの新しいアルゴリズムを開発し実行している。
Copyright © ITmedia, Inc. All Rights Reserved.
Innovative Tech(AI+)
2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその“AI編”として、人工知能に特化し、世界中の興味深い論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」(シームレス)を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
2
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
3
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
4
ガートナーが考えるフィジカルAI実装のロードマップと人の役割
-
5
アクセンチュアが説く「業務そのものの創り直し」とは? AI活用が事業成果に結びつかない企業に向けた2つのポイント
-
6
AIに打ち明けた相談は“広告トラッカー”に筒抜け? ChatGPT、Claude、Gemini含む42サービスを米大が調査
-
7
NTTが宇宙光通信網の構築へ 「IOWN搭載」衛星と宇宙データセンターで米中に挑む
-
8
AIが設計データの分析からCAD操作まで支援する「SOLIDWORKS 2027」
-
9
大手自動車メーカーの検図工数を90%削減 AIが図面の重要な変更点を判別
-
10
「回答するAI」から「現実の課題を解決するAI」へ、ダッソーが掲げる産業AI戦略
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR