無料でアカウント登録不要、NVIDIAのGPUがあれば超高速! 「LM Studio」で自分専用のAIアシスタントを作ろう(3/3 ページ)
本記事では、実際に「NVIDIA GeForce RTX 5060 Ti」を搭載したPCを使って、LM Studioを導入する方法や、活用方法を解説する。例えば、ゲーミングPCを持っている人であれば、GPUパワーをゲームだけでなく、生成AIにも活用できるようになる。
PCに保存しているドキュメントデータも解析可能! ユーザー専用の知識を活用するAIアシスタントを手に入れよう
さて、LM StudioでNemotron Nano v2 9Bの具体的な使い方を見てきたが、LM StudioとNemotoron Nano v2 9Bは、ただ入力された質問内容を回答するだけでなく、PCに保存しているドキュメントデータを解析して、解析した内容を基に回答を生成してくれる機能が備わっている。
つまり、NVIDIAのGPUとLM Studio、Nemotron Nano v2 9Bを組み合わせれば、追加で月額費用を支払うことなく、ユーザー専用の知識を活用するAIアシスタントが手に入る。
例えば、文部科学省が公開している「高等学校情報科「情報I」教員研修用教材」を使って、情報Iの内容を学習するためのアシスタントを作る手順を実際に見てみよう。
LM Studioのチャット欄を見てみると、クリップのアイコンが表示されている。こちらのボタンをクリックすることでチャットにファイルを添付できる。ひとまずPC内のドキュメントデータを添付するためクリックしてみよう。
「File Attachments and RAG」という画面が表示されるので、「Upload File」ボタンをクリックしてみよう。なお、Uploadという記載があるが外部にファイルがアップロードされるわけではないので安心してほしい。
対応しているデータ形式はPDFファイル、DOCXファイル、TXTファイル、CSVファイルのようなテキストデータだ。
今回利用するNemotron Nano v2 9Bは、画像ファイルを認識できないが、Visionモデルと呼ばれる画像にも対応したモデルを利用すれば、画像ファイルを添付することも可能だ。
ファイルの添付が完了したら、添付したファイルの中で理解が難しかった部分を具体的に挙げて、Nemotron Nano v2 9Bに手助けしてもらおう。
今回は、下記のように公衆無線LANがどうして危険なのかについて質問してみる。具体的に分からなかったこと、質問したいことをチャット欄に入力して送信してみよう。
添付したファイルは情報1の教員向け研修資料の一部です。
よく公衆無線LANが危険といわれていますが、どう危険なのかいまいちピンとしません。
添付されたPDFファイルの中から、公衆無線LANの危険性について記載されている箇所を抜粋してまとめたうえで、具体的にどのような危険が潜んでいるのか教えてください。
すると、添付されたPDFファイルの中身を解析した上で、公衆無線LANに潜む危険性について具体的に分かりやすい回答が出力された。これだけでは、チャット欄に質問内容を記載した時と変わらないが、よく見てみると出力された回答の末尾を見てみると、本のようなアイコンが並んでいることが分かる。
本のアイコンにマウスカーソルを合わせてみると、回答を生成するにあたって参考にした文献、つまり添付したPDFファイルの中から該当する部分が表示される。つまり、添付したPDFファイルの中身を適切に理解し、そのうえで回答を生成してくれていることが分かる。
今回はあらかじめダウンロードしてきた高等学校情報科「情報I」教員研修用教材をもとに試してみたが、大学や学校で配布された資料を添付して、授業内容で分からなかった点について質問すれば、自分専用のAIアシスタントとして活用できることが分かる。
もちろん、生成された内容をそのままコピペしてしまうと、自身の学習成果とはならないが、生成された回答をもとにさらに学習を深めていくには非常に有用だ。
LM StudioとNVIDIAのGPUを組み合わせれば英語で書かれた資料も即座に理解できる?
さて、LM Studioの利用方法や活用方法について詳しく見てきたが、あくまで日本語で書かれたチャットメッセージや資料をもとに試してきた。もしこれが英語で書かれていたらどうだろうか。
特に大学では、研究を進めていくうえで日本語の参考文献だけでなく、英語で書かれた文献も読み込まなければならない。研究だけでなく、インターネットでIT関連の技術を追っていると、どうしても英語の資料しかないことがある。
英語で書かれた資料をLM Studioに添付して、その内容について日本語で質問してみれば、自分で翻訳するより高速で回答が得られるのでは……?
そこで、試しにNVIDIAの最新アーキテクチャである「Blackwellアーキテクチャ」の技術的な要点がまとめられた技術資料を読み込ませて、記載されている内容について簡単にまとめてもらえるように以下のような質問をしてみた。
添付ファイルはNVIDIAの最新アーキテクチャであるBlackwellアーキテクチャについてまとめられた資料です。
コンシューマ向けではなく、エンタープライズ向けの資料なのですが、Blackwellアーキテクチャの何がすごいのか知るにはコンシューマユーザにとっても良い資料だと思います。
しかしすべて英語で書かれているので、内容をコンシューマユーザーにも分かりやすく、なるべく専門用語を使わずに日本語で解説してもらってもいいですか?
英語で書かれた資料をもとに、日本語で内容をまとめられるのかと心配したが、そんな杞憂(きゆう)もどこ吹く風のごとく、これもまた超高速で内容を日本語でまとめてくれた。
このように、日本語であろうが英語であろうがドキュメントデータの中身を理解した上で、超高速で質問に答えてくれるので、自分専用のAIアシスタントとして十分活用できることが分かる。
まとめ
このように、LM Studioを利用すれば費用や専用の機材/環境を準備せずとも、手元にあるゲーミングPCさえあれば“自分専用のAIアシスタント”が実現できる。
しかも、NVIDIAのGPUがあれば、最適化されたパフォーマンスのAIをプライバシーに気を配らずとも安心して利用できる点も、今回の結果からお分かりいただけただろう。
これからAI活用が欠かせない学生、またはAI活用の波に乗り遅れることに焦りを感じているが、具体的にどうすればよいか分からない人にとって、普段使っているゲーミングPCでAIアシスタントを作れるのであれば、一石二鳥ならぬ一石三鳥にもなるだろう。
NVIDIAのGeForce RTXシリーズを搭載したPCを使っているなら、試してみてはいかがだろうか。GPUの可能性を感じられるはずだ。
関連リンク
提供:エヌビディア合同会社
アイティメディア営業企画/制作:ITmedia PC USER 編集部/掲載内容有効期限:2025年11月3日
Copyright © ITmedia, Inc. All Rights Reserved.