経産省、楽天の生成AI開発を支援 “長期記憶”で複雑な日本語文脈に対応するLLM構築へ

 楽天グループは7月15日、経済産業省とNEDO(新エネルギー・産業技術総合開発機構)による国内の生成AI開発支援プロジェクト「GENIAC」(Generative AI Accelerator Challenge)の第3期公募に採択されたと発表した。8月から、日本語向けの大規模言語モデル(LLM)の開発を始める。

楽天のロゴ(撮影:編集部)

 楽天では、2024年3月から日本語向けのLLMの開発に取り組んでいる。25年2月には、複数のサブモデルを組み合わせ、タスクに応じた領域のみを稼働して計算効率を高める技術「Mixture of Experts」(MoE)を採用したLLM「Rakuten AI 2.0」を発表した。

 今回、経産省などの支援を受けて開発するのは、長く複雑な日本語の文脈に沿った処理ができるLLMだ。約4~5兆トークンのオープンテキストデータを学習。既存のオープンソースモデルと同等かそれ以上の性能を目指す。

 例えば、入力した内容を長期的に保持するメモリ機能を拡張する新技術により、LLMが応答時にアクセスできる情報量を増やすという。また、ユーザーとの会話を記憶し、パーソナライズした応答ができる機能も搭載。これにより、LLMにおける長大なテキスト処理の性能向上や、AIエージェントのパーソナライズ化などを推進したい考えだ。

研究の概要(画像はGENIACの資料より引用

 GENIACは、国内の生成AI開発を支援するため、計算リソースや、開発者コミュニティーを通じたナレッジなどを提供するプロジェクト。24年2月に第1期、10月には第2期の支援を実施し、25年3月から第3期を公募していた。

印刷する
SNSでシェア

関連記事

こんなメディアも見られています

ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

メールマガジンを配信中
メールマガジンを配信中

国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。

いますぐご登録

よく見られているカテゴリー

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

SpecialPR

ITmedia AI+ SNS

X @itm_aiplusをフォロー

インフォメーション

ITmedia AI+をフォロー

あなたにおすすめの記事PR