GPT-5.6 Solの「超高速モード」ついに実装 「品質損なわず14倍高速」うたう

 AI向けの計算基盤を提供する米Cerebrasは8月13日(現地時間)、米OpenAIと共同で、AIモデル「GPT-5.6 Sol」を高速で動作させる「Ultrafastモード」を発表した。Cerebras製のAI専用チップで推論することで、標準モードと比べ「品質を損なわずに最大14倍高速」とうたう。

 Cerebrasによると生成速度は毎秒750トークン。AIの性能評価を手掛ける米Artificial Analysisの報告値との比較で、米Anthropicの「Claude Fable 5」(以下、Fable 5)の11倍だという。各分野の難易度の高い専門知識を問うベンチマーク「Humanity's Last Exam」では、全2500問の回答にFable 5が78時間27分かけたのと同等の精度を、約7分の1に当たる11時間11分で達成した。

各モデルのベンチマークテストの結果と出力速度の比較(出典:Cerebrasの公式ブログ)

 高速化を支えるのは、ウェハ1枚を丸ごと1個のプロセッサとして使う同社の巨大チップだ。44GBのSRAM(高速な読み書きが可能な半導体メモリ)を搭載したウェハを複数使用したチップ上にモデルの重みを保持することで、データ転送のボトルネックを解消した。

 Cerebrasは、障害の原因究明やサイバー攻撃対応など、一刻を争う業務へのエージェント活用に役立つとしている。

 Ultrafastモードは、OpenAIのAPIで一部顧客向けに限定プレビューとして提供を始め、処理能力の向上に伴って対象を順次拡大する。

印刷する
SNSでシェア
SpecialPR

関連記事

こんなメディアも見られています

ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

メールマガジンを配信中
メールマガジンを配信中

国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。

いますぐご登録

よく見られているカテゴリー

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

SpecialPR

ITmedia AI+ SNS

X @itm_aiplusをフォロー

インフォメーション

ITmedia AI+をフォロー

あなたにおすすめの記事PR