米Microsoftは5月21日(現地時間)、開発者向け年次開発者会議「Microsoft Build 2024」の基調講演で、ローカルで実行可能なSLM(小規模言語モデル)「Phi Silica」(ファイシリカ)を発表した。前日発表した一連の「Copilot+ PC」に搭載していく。
Microsoftは「Phi-3」ファミリーでSLMを展開しているが、Phi SilicaはPhi-3の最小モデル「Phi-3-mini」(38億パラメータ)より小さい33億パラメータ。
Copilot+ PCのNPU(ニューラルプロセッシングユニット)に最適化されており、トークン生成はNPUのキャッシュを再利用してCPUで実行され、1秒当たり約27個のトークンを生成するという。これにより、閲覧中の画面を数秒ごとに保存しておき、後から横断検索できる「回顧」(Recall)機能などを高速に実行できる。
「回顧」のように個人情報にアクセスする機能は、クラウドに接続せずローカルで実行できるることがプライバシー保護という意味で重要だ。
Phi Silica APIは、Windows Copilotライブラリで利用可能になる見込みだ。
ちなみに、silicaは二酸化ケイ素(SiO2)の非結晶質のことだ。Microsoftは名称の由来について特に説明していないが、silicaは無色透明で変形しやすく、半導体産業に欠かせない物質だ。
Copyright © ITmedia, Inc. All Rights Reserved.
Special
PR