日立、顧客の業務ごとに最適化したLLMを提供 “LLMの工場”目指す

日立製作所が顧客の業務ごとに最適化した大規模言語モデル（LLM）の構築と継続的な改善を支援するサービスの提供を始める。

[ITmedia]

　日立製作所は8月29日、顧客の業務ごとに最適化した大規模言語モデル（LLM）の構築と継続的な改善を支援するサービスを始めると発表した。LLMの実行環境の構築と運用を担うサービスもともに提供。生成AIの導入から運用まで一気通貫で提供できるようにした。両サービスは10月1日から提供を始める。

サービスの全体像

　同社は、業務特化型LLMを開発するにあたり、「RAG」や「ファインチューニング」といった手法を取り入れた。RAGは特定のデータベースをAIに参照させ、回答精度を高める手法。これに、AIモデルへの追加学習により特定分野に関する回答精度を高めるファインチューニングを組み合わせ、実務レベルでの回答をできるようにした。

　環境整備については、主にオンプレミスでの生成AI導入をサポート。社内の機密情報流出を防ぎながら生成AIを利用できるようにする。これらにより、実務に耐えうる回答精度と安全性を両立した。

　発表に先立ち、社内で実証実験を行った。同社のIT運用管理ソフトウェアである「JP1」の認定コンサルタント試験に業務特化型LLMで挑戦した。JP1のマニュアルや試験の受験者向け研修テキストなどでファインチューニングを実施。試験ではRAGを用いて問題に回答させた。結果、オープンLLMや商用LLMでは合格できなかったが、業務特化型LLMのみが試験に合格できたという。

業務特化型LLMの実証実験の結果

試行から実用へ、生成AIトレンドの変化

　「業務特化型」を打ち出した背景として、Generative AIセンターの吉田順センター長は、生成AIのトレンドが“試行から実用へ”と変化していることを挙げた。「2023年は生成AIの技術に関する話題が多かった。24年に入ってから生成AIの実用的な話が増えてきた。実際、日立でも1000件ほどユースケースが出てきている」（吉田さん）。こうしたトレンドを受け、「業務特化型」によって実用での生成AI利用を後押ししたい考えだ。

Generative AIセンターの吉田順センター長

　この業務特化型LLMの構築・運用サービスについて、生成AIアプリケーション＆共通基盤室（日本）室長の元山厚さんは「LLMの工場」というキーワードで語った。「顧客のデータを受け取り、日立のノウハウと環境を使って（その顧客の業務に最適化した）LLMを作成して返却する。そんな工場をイメージしてほしい」（元山さん）。

生成AIアプリケーション＆共通基盤室（日本）室長の元山厚さん

　今回のサービスは第1弾として、まずは金融分野やコールセンターなど、汎用のLLMやRAGだけでは専門知識の活用が難しい業界に提供する。今後、工場やプラントを支えるOT領域を持つ製造業などにも範囲を拡大。順次適用していく予定としている。