NEC、生成AI「cotomi」を強化 電力消費を抑えられる技術とは？

[小松恋，ITmedia]

　NECは、DXブランド「BluStellar」（ブルーステラ）のキーテクノロジーである同社開発の生成AI「cotomi」（コトミ）を強化した。高速性を維持しつつ、精度の高い生成AIを12月から順次提供していく。

　生成AIの性能を維持しながら、GPU（画像処理半導体）の演算効率を2倍に高める技術も開発した。AI需要の高まりに伴うGPU不足や、電力問題を改善し、AIを快適に活用できる環境を整備する。

NEC Innovation Day 2024に登壇したNEC Corporate SVP 兼 AI テクノロジーサービス事業部門長 兼 AI Research Officer 山田昭雄氏（撮影：河嶌太郎）

生成AIの課題に挑む　「性能を上げ、消費電力を抑えられるか」

　生成AIの急速な発展により、企業や公共機関は生成AIを活用した業務変革を進めている。これに伴い、専門性の高い業務に合わせたユースケースや業務システムへの組み込み対応など、生成AIの性能向上が求められている。

cotomiが目指すポジション

　生成AI市場における世界での需要額は、2023年から2030年にかけて約20倍の成長を見込む。それに合わせてGPUの需要が急増していて、課題となっているのが、データセンターにおける消費電力の増加だ。この課題を解決するため、NECはcotomiの性能強化と、使用時のGPUの演算効率を高める技術を開発。環境に配慮した活用体制を提供する。

　今回cotomiが性能を強化した結果、日本語の大規模言語モデル（LLM）ベンチマーク「Japanese MT-Bench」において、ClaudeやGPT-4、Qwenなど他社のLLMに匹敵する精度を達成したという。推論速度はQwenの6倍、GPT-4の2倍を実現。速度と精度を両立させることに成功した。

「Japanese MT-Bench」べンチマークでの比較

　生成AIを業務で使用する際に、推論処理が多くなるとGPUへの負荷や総電力消費が増える傾向がある。NECは、この「推論処理あたりの消費電力」を抑える技術を開発した。

1文字あたりの生成速度（NEC試算値）　

　同技術は、GPU内部の演算素子の利用効率を高め、並列処理を効率化することにより、GPUの演算効率を2倍に向上させる。従来よりも少ないGPUで推論処理を実行でき、電力消費を抑えた生成AI活用を実現するという。

高効率利用技術で消費電力削減

　これらの取り組みを通じてNECは、生成AI関連事業で2025年度末までに約500億円の売り上げを目指す。