スパコン「富岳」で作るLLM研究の現状　富士通は生成AIビジネスをどう戦うのか（1/2 ページ）

公開 2024年04月26日 12時01分

[ITmedia]

印刷する

　生成AIブームの今、注目のキーワードが「基盤モデル」だ。大量のデータを事前学習したAIモデルのことで、少しのチューニングを施せば、さまざまなタスクに対応できる。米OpenAIの「GPT-4」といった生成AIも包含する概念だ。

　さまざまな企業が生成AIを使った業務効率化を試行錯誤する中、各AIベンダーたちの間では基盤モデルの開発競争が激化している。そこでこの特集では、基盤モデルを開発するAIベンダーに一問一答メールインタビューを実施。開発状況や独自の強みなどを探っていく。理化学研究所などとともにスーパーコンピュータ「富岳」を使った大規模言語モデル（LLM）の開発に取り組む富士通に話を聞いた。

富士通の基盤モデルの特徴や強みは何か？

　2023年5月、東京工業大学と東北大学、理化学研究所とともに、富岳を活用したLLMの開発を始めた。富岳の大規模な計算リソースを活用し、創発性と呼ばれるLLMの性能が急激に向上する10の23乗FLOPSを目指し、国産のLLMを整備するために現在開発を進めている。

スーパーコンピュータ「富岳」

　また、富士通独自のLLMも開発中。米Metaが開発した「Llama 2」の13Bパラメータのモデルをベースに追加学習およびチューニングを実施して日本語性能を追求した特化型モデルを23年12月に開発した。日本語言語理解ベンチマーク「JGLUE」で、国産でオープンかつ13Bパラメータ以下のモデルと独自に比較した結果、トップレベルの性能を達成している。

　現在は、画像やコード生成などの領域特化型の生成AIの独自開発や、これらの生成AIやパートナー各社の複数の生成AIモデルを効率良く混合できる「生成AI混合技術」の開発も進めている。これらの技術は「GPT-4V」や「HuggingGPT」を含む最先端の生成AIと同等以上の精度を有することを確認している。

基盤モデルで解決できる業務課題にはどのようなものがあるか？

　富士通が開発する基盤モデルはChatGPTなど既存LLMにおけるインターネットを介するセキュリティリスクや高い運用コスト、推論の遅さなどといったさまざまな未解決問題を解決できるポテンシャルを持っている。これは、富士通と付き合いのある多くの業種の企業も恩恵を受けることができると考えている。

　特に個人情報や秘匿情報などをオンプレミス環境でセキュアに扱うことが可能になる。「運用コストを軽減したい」「推論の処理量を上げたい」「応答時間を短くしてユーザー体験を向上したい」「電力消費量を削減したい」などのニーズを持つ企業には、富岳を活用したLLMと富士通独自LLMの両方で応えることができる。

　クライアント企業内のナレッジを活用したいニーズにも、基盤モデルをファインチューニングすることでクライアント専用の基盤モデルを提供することで対応可能だ。

　富士通が長年蓄積してきた業種共通ナレッジを業種特化型基盤モデルの形でクライアントに提供することにも重点的に取り組んでおり、これらのモデルは企業の課題を直ちに解決することが可能である。例えば、ソフトウェア開発の技術蓄積を搭載した業種特化型基盤モデルにより、一般的な生成AIだけでは得られない品質向上と生産性向上が実現できる。

　生成AIの活用についてクライアントと会話する中で、どのような業務課題が解決できるのかを見つけるだけではなく、根本的に生成AIの活用を阻む最も大きな課題を解決することで、全ての業務課題が生成AIの恩恵を受けられるようにすることの方が大切ということが分かった。

　その課題とは、生成AIは業務に使うにはまだまだ信頼できないということである。ハルシネーション（AIがもっともらしいうそをつく現象）やセキュリティなどの多くの問題があり、生成AIを活用するには必ず監視役の人を付ける必要がある。

　しかし、これは生産性向上の大きな足かせになる。富士通は現在AIトラスト技術の進化に注力しており、業務に耐えうる信頼性を持つ生成AIや基盤モデルを提供することで、全ての業務課題の解決を目指す。

次ページへ富士通はなぜ基盤モデルを開発するのか？