続いて、StableDiffusion WebUIで利用したいモデルをダウンロードするのと同様に、各種言語モデルのダウンロードが必要です。モデルのダウンロードには配布サイト「Hugging Face」を利用します。今回はまずサイバーエージェントが公開している「OpenCalm7B」(70億パラメータのLLM)を入れてみましょう。
Hugging Faceにアクセスしたら上部の検索窓に「CyberAgent」と入力すると「cyberagent/open-calm-7b」がヒットします。ここでOpenCalm7Bが配布されているのですが、ダウンロードは必要ありません。ブランチ名にあたる「cyberagent/open-calm-7b」をコピーします。
続いて、Text Generation web UIの「Model」タブを開き「Download custom model or LoRA」のフィールドに、「cyberagent/open-calm-7b」をペーストします。そして「Download」ボタンを押すと、必要なモデルがHugging Faceからダウンロードされます。ダウンロードが完了したら、「Model」名から「cyberagent/open-calm-7b」を選択し「Load」を押します。これだけでモデルの準備も整いました。
Text Generation web UIの「Model」タブ内にある「Download custom model or LoRA」に「cyberagent/open-calm-7b」を入れてダウンロードボタンを押せば、Hugging Faceからモデルがダウンロードされるモデルを導入したら「Text Generation」タブを開き、「Input」欄に言葉を入れて「Generate」を押します。すると、ChatGPTよろしくLLMとの対話が始まります。
無料で商用可、ChatGPT(3.5)に匹敵する生成AI「Llama 2」 Metaが発表、Microsoftと優先連携
Stable Diffusionを手元で動かしたい! 画像生成AIを動かすならどんなPCを選んだらいい?
百花繚乱の大規模言語モデル その現状まとめ【2023年4月末版】
機械に話しかけて設定できる時代が来る? なぜ“小規模”なLLMが求められるのか
MetaとQualcomm、生成AI「Llama 2」をスマートフォンやHMDで実行可能にCopyright © ITmedia, Inc. All Rights Reserved.
Special
PR