NEC、独自の日本語大規模言語モデルを開発　パラメータ数130億、クラウドで運用可能　性能も世界トップクラス

　NECは7月6日、独自の日本語大規模言語モデル（LLM）を開発したと発表した。パラメータ数は130億で、クラウド／オンプレミス環境での運用が可能。性能面でも、世界トップクラスの日本語処理能力を実現しているという。

　日本語言語理解の標準的なベンチマークとして知られる「JGLUE」で性能を評価したところ、知識量で81.1％、文書読解で84.3％のスコアを記録。NECは「これは他LLMと比較しても、世界トップレベルの性能」と説明する。

　一般的に、高い性能を持つLLMほど推論にも多数のGPUが必要になるが、NECのLLMはGPU1枚搭載の標準的なサーバでも動作できる。このため、LLMを組み込んだアプリの動作が円滑になり、電力消費やサーバコストも抑えられるという。「特定の業務に特化させたLLMを短期間で容易に構築でき、オンプレミス環境でも動作可能。秘匿性の高い業務でも安心」（NEC）

　LLMのパラメータ数を増やすと、推論速度が低下しモデル運用に必要なGPUの数と消費電力が増える傾向にある。そのため、同じ性能のLLMならより少ないパラメータ数のものが望まれる。NECはGPU1枚で動作する程度に抑えた上で、多量のデータと膨大な計算時間をかけて、今回のLLMを開発した。

　NECは3月から運用しているAI研究用のスーパーコンピュータを1カ月稼働させてLLMを構築。社内ではすでに文書作成やソースコード作成業務などの効率化に応用しているという。今後は顧客のクローズドデータを使った個社向けLLMの開発も進める予定。

この記事の著者

関連記事

• 

  NEC、「デジタルヒューマン協議会」設立　社会実装の加速目指す

• 

  AI開発でスパコンを使いたい！　用途別の選び方を紹介　小型タイプからデータセンター向けまで

• 

  AWS、日本企業のLLM開発支援プログラム　600万ドル規模のクレジット提供、技術サポートも

• 

  「自社版ChatGPT」をグループ全社導入　約1万5000人で2カ月使った手応えは？　ベネッセに聞いた

• 

  サイバーエージェント、日本語の大規模言語モデルを一般公開　最大68億パラメータ　商用利用可能