経産省、楽天の生成AI開発を支援 “長期記憶”で複雑な日本語文脈に対応するLLM構築へ
楽天グループは7月15日、経済産業省とNEDO（新エネルギー・産業技術総合開発機構）による国内の生成AI開発支援プロジェクト「GENIAC」（Generative AI Accelerator Challenge）の第3期公募に採択されたと発表した。8月から、日本語向けの大規模言語モデル（LLM）の開発を始める。
楽天のロゴ（撮影：編集部）
楽天では、2024年3月から日本語向けのLLMの開発に取り組んでいる。25年2月には、複数のサブモデルを組み合わせ、タスクに応じた領域のみを稼働して計算効率を高める技術「Mixture of Experts」（MoE）を採用したLLM「Rakuten AI 2.0」を発表した。
今回、経産省などの支援を受けて開発するのは、長く複雑な日本語の文脈に沿った処理ができるLLMだ。約4～5兆トークンのオープンテキストデータを学習。既存のオープンソースモデルと同等かそれ以上の性能を目指す。
例えば、入力した内容を長期的に保持するメモリ機能を拡張する新技術により、LLMが応答時にアクセスできる情報量を増やすという。また、ユーザーとの会話を記憶し、パーソナライズした応答ができる機能も搭載。これにより、LLMにおける長大なテキスト処理の性能向上や、AIエージェントのパーソナライズ化などを推進したい考えだ。
研究の概要（画像はGENIACの資料より引用）
GENIACは、国内の生成AI開発を支援するため、計算リソースや、開発者コミュニティーを通じたナレッジなどを提供するプロジェクト。24年2月に第1期、10月には第2期の支援を実施し、25年3月から第3期を公募していた。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
よく見られているカテゴリー
アクセスランキング
-
1
「Claude Fable 5」をサブスクの標準機能に――AnthropicのエンジニアがXに投稿 7月8日以降の「早期復活目指す」
-
2
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
3
AIに「相手に電気ショックを与えろ」と命じ続けたらボタンを押すのか？ 11のLLMで“ミルグラム実験” 抵抗できたのは……
-
4
3万円で「Yahoo!ニュース」にPR掲載 プレスリリースをAIで「ニュース風記事」に
-
5
「Claude Fable 5」の性能が落ちた？ 提供停止前後で比べた結果 米AI企業2社がそれぞれ報告
-
6
ソフトウェアエンジニアの仕事は「ループを書くこと」になる 内側ループと外側ループ（ハーネス）入門
-
7
人型ロボットが工場で稼働する様子を6日間生配信、作業成功率99.99％をうたう 中国メーカー
-
8
ひろゆき氏「SIer衰退予測」、AI代替の「逆転現象」の理由 2026年に生き残るエンジニア“4つの役割”
-
9
AIで“ゲームキャラの出産二次創作”を何千回と生成する人も……ChatGPTの会話57万件から見えたヘビーな利用実態
-
10
AIに詳しくなくても大丈夫、月額制で中小企業のAI活用をプロが支える新サービス
SpecialPR
ITmedia AI＋ SNS
@itm_aiplusをフォロー
インフォメーション
注目情報をチェック
ITmedia AI＋をフォロー
あなたにおすすめの記事PR