小林啓倫のエマージング・テクノロジー論考
“大は小を兼ねない”生成AI 注目集める「小規模言語モデル」(SLM) そのメリットとは?(1/3 ページ)
先日行われた、米Microsoftの開発者向けイベント「Microsoft Build 2024」。AI系技術を中心にさまざまな発表があったが、目玉の一つだったのが、SLM(Small Language Model)関連の新製品だ。ITmediaでも紹介記事が公開されているので、具体的な情報は以下を参照してほしい。この記事では、そもそもSLMとは何か、何が期待されているのかを整理してみよう。
(関連記事:Microsoft、Windowsローカルで実行可能なSLM「Phi Silica」を全「Copilot+ PC」に搭載へ)
(関連記事:Microsoft、マルチモーダルなSLM「Phi-3-vision」をプレビュー)
“大は小を兼ねない”「小規模言語モデル」(SLM)とは?
SLMは日本語で「小規模言語モデル」と訳されている。名前から分かるように、ChatGPTを始めとした生成AIアプリケーションのエンジンである「LLM」(大規模言語モデル)と対になる技術だ。
Microsoft「Phi-3」シリーズと、今回発表された「Phi Silica」はいずれもSLMの範囲に分類される言語モデルで、同社はその進化に力を入れている。またライバルの米Googleも、GeminiシリーズのSLM「Gemini Nano」を発表するなど、多くのIT企業が取り組みを見せている。
しかし言語モデルは、学習に使われるデータ量や、回答を導き出すためのパラメータ数(モデルがどのくらい多様で複雑な処理をできるかを表すものと考えてほしい)などが大きくなればなるほど優秀になる傾向があり、大手IT企業が競うようにその大規模化に乗り出していたはず。いまさら小規模なモデルを追求して何のメリットがあるというのだろうか。
結論から言うと、「大は小を兼ねる」ということわざは、言語モデルに対しては必ずしも正しくない。むしろ「長持枕にならず」の方が、ここで参照すべきことわざだ。
長持(ながもち)とは昔の家具で、衣服などを入れるのに使われていた、長方形の大きな箱のこと。見た目が似ているからといって、枕という用途で使うには大きすぎる。つまり何でも大きければ良いというものではなくて、時と場合によっては小さい方がちょうど良いこともあるという話だ。
では言語モデルにおいて、「小さい」ことのメリットとは何だろうか?
SLMが提供する3つのメリット
ここではSLMの主なメリットを、3つにまとめてみたい。第1に、SLMは消費する計算リソースが少ないため、スマートフォンやIoTデバイスなどの端末上で動かせる。
Copyright © ITmedia, Inc. All Rights Reserved.
小林啓倫のエマージング・テクノロジー論考
生成AIやメタバース、新たなサイバー攻撃など、テクノロジーの進化が止まらない。少しずつ生活の中に浸透し、その恩恵を預かれることもある一方、思いもよらない問題を生み出すこともある。このコーナーでは、さまざまな分野の新興技術「エマージング・テクノロジー」について、小林啓倫氏が解説する。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
2
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
3
Googleの“人気AI講座”、先着1万人に無料提供 リスキリング推進団体
-
4
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
5
AIが設計データの分析からCAD操作まで支援する「SOLIDWORKS 2027」
-
6
「Gemini 4 Hydrogen」とは 性能とユースケースまとめ Googleの「誰でも使える」最新モデル
-
7
【図解あり】マルチエージェント設計「15のパターン」 GitHub、Google、Siemensの知見を一気に整理
-
8
ガートナーが考えるフィジカルAI実装のロードマップと人の役割
-
9
設計/製造から工場運用へ、オートデスクが描く工場全体の最適化戦略
-
10
ジェンスン・フアン氏退任は「NVIDIAバブル崩壊」の序章か? どうなる今後の半導体業界
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR