小林啓倫のエマージング・テクノロジー論考
“大は小を兼ねない”生成AI 注目集める「小規模言語モデル」(SLM) そのメリットとは?(1/3 ページ)
先日行われた、米Microsoftの開発者向けイベント「Microsoft Build 2024」。AI系技術を中心にさまざまな発表があったが、目玉の一つだったのが、SLM(Small Language Model)関連の新製品だ。ITmediaでも紹介記事が公開されているので、具体的な情報は以下を参照してほしい。この記事では、そもそもSLMとは何か、何が期待されているのかを整理してみよう。
(関連記事:Microsoft、Windowsローカルで実行可能なSLM「Phi Silica」を全「Copilot+ PC」に搭載へ)
(関連記事:Microsoft、マルチモーダルなSLM「Phi-3-vision」をプレビュー)
“大は小を兼ねない”「小規模言語モデル」(SLM)とは?
SLMは日本語で「小規模言語モデル」と訳されている。名前から分かるように、ChatGPTを始めとした生成AIアプリケーションのエンジンである「LLM」(大規模言語モデル)と対になる技術だ。
Microsoft「Phi-3」シリーズと、今回発表された「Phi Silica」はいずれもSLMの範囲に分類される言語モデルで、同社はその進化に力を入れている。またライバルの米Googleも、GeminiシリーズのSLM「Gemini Nano」を発表するなど、多くのIT企業が取り組みを見せている。
しかし言語モデルは、学習に使われるデータ量や、回答を導き出すためのパラメータ数(モデルがどのくらい多様で複雑な処理をできるかを表すものと考えてほしい)などが大きくなればなるほど優秀になる傾向があり、大手IT企業が競うようにその大規模化に乗り出していたはず。いまさら小規模なモデルを追求して何のメリットがあるというのだろうか。
結論から言うと、「大は小を兼ねる」ということわざは、言語モデルに対しては必ずしも正しくない。むしろ「長持枕にならず」の方が、ここで参照すべきことわざだ。
長持(ながもち)とは昔の家具で、衣服などを入れるのに使われていた、長方形の大きな箱のこと。見た目が似ているからといって、枕という用途で使うには大きすぎる。つまり何でも大きければ良いというものではなくて、時と場合によっては小さい方がちょうど良いこともあるという話だ。
では言語モデルにおいて、「小さい」ことのメリットとは何だろうか?
SLMが提供する3つのメリット
ここではSLMの主なメリットを、3つにまとめてみたい。第1に、SLMは消費する計算リソースが少ないため、スマートフォンやIoTデバイスなどの端末上で動かせる。
Copyright © ITmedia, Inc. All Rights Reserved.
小林啓倫のエマージング・テクノロジー論考
生成AIやメタバース、新たなサイバー攻撃など、テクノロジーの進化が止まらない。少しずつ生活の中に浸透し、その恩恵を預かれることもある一方、思いもよらない問題を生み出すこともある。このコーナーでは、さまざまな分野の新興技術「エマージング・テクノロジー」について、小林啓倫氏が解説する。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
NotebookLMに公式APIが登場 WebページやYouTube動画の取り込みを自動化でき、MCPでAIエージェントからも使える
-
2
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
3
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
4
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
5
大手自動車メーカーの検図工数を90%削減 AIが図面の重要な変更点を判別
-
6
Anthropic、IPO前夜に「SaaS殺し」へ舵? Claudeに表計算を内蔵した、真の狙い
-
7
NTTが宇宙光通信網の構築へ 「IOWN搭載」衛星と宇宙データセンターで米中に挑む
-
8
【Pythonで学ぶデータ分析】重回帰分析のモデル比較をベイズ統計で行う ~ 株価の予測にはどの指標が効くのか?
-
9
わが社はChatGPTでどう紹介されている? OpenAIが企業向けの確認機能を提供開始
-
10
「AIによる鍵の不正利用」を生体認証で防ぐ日立の新技術、サイバー攻撃対策にも
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR