NVIDIAが30Bのオープンモデル公開 「OpenClaw」など常時稼働エージェント向けに設計
米NVIDIAは8月11日(現地時間)、300億(30B)パラメータのオープンモデル「Nemotron 3.5 Lightning」を公開した。「OpenClaw」「Hermes Agent」といった常時稼働型のAIエージェント向けに設計しており、「小規模モデル並みのコストで、大規模モデル並みの処理能力」をうたう。
モデルの中に複数の処理役を用意し、入力内容に応じてその一部だけを動かすことで処理効率を高めた「MoEアーキテクチャ」を採用した。推論時に動作するアクティブパラメータは30億(3B)。
小型モデルの生成結果を大型モデルで検証する「推測的デコーディング」と、モデルの重みを低ビットの数値に変換する「量子化」によって、精度を維持しつつ高速な生成を実現したとうたう。
AIモデルの性能評価サービスを提供する米Artificial Analysisは、「Artificial Analysis Intelligence Index」で同モデルを24ポイントとし、約4倍のパラメータ数となる米OpenAIの「gpt-oss-120b」と同等のスコアを達成したと評価。前世代の「Nemotron 3 Nano」から9ポイント改善した。出力速度は毎秒約670トークンと同等サイズの他社モデルを大きく上回り、エージェント運用の「効率的な主力モデル」になるとした。
Nemotron 3.5 Lightningは、モデルの重みに加え、学習データやレシピも「OpenMDW-1.1」ライセンスで「Hugging Face」などで提供されている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
Googleの“人気AI講座”、先着1万人に無料提供 リスキリング推進団体
-
2
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
3
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
4
「Gemini 4 Hydrogen」とは 性能とユースケースまとめ Googleの「誰でも使える」最新モデル
-
5
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
6
ジェンスン・フアン氏退任は「NVIDIAバブル崩壊」の序章か? どうなる今後の半導体業界
-
7
人手不足だからAIを使いたい、でも導入できる人がいない 中小企業“一人情シス”の葛藤
-
8
アクセンチュアが説く「業務そのものの創り直し」とは? AI活用が事業成果に結びつかない企業に向けた2つのポイント
-
9
OpenAI、AIエージェントが代わりに支払う「ChatGPT Wallet」 カード番号は渡さず、購入ごとに生体認証
-
10
生成AIにも現場業務にも役立つ「ビジネスメタデータ」、誰がどう整備する?
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR