AIバブル崩壊はいつ訪れる? 3つの「致命的トリガー」を考える NVIDIA決算の安堵は「嵐の前の静けさ」か(2/3 ページ)
第2の壁:AIは人間より高くつく?
推論コストがROIを押し下げる――学習から推論へAIのスケーリング則が移行することで、性能は一段アップした。しかしここで新たな問題が浮上している。AIを「使う」コストが、予想より高すぎるのだ。
米セコイア・キャピタルのデビッド・カーン氏は24年7月、AIインフラ投資とAIが生み出す収益の間に6000億ドルもの“ギャップ”があると指摘した。NVIDIAのデータセンター向け売上予測をベースに計算すると、AI企業は年間6000億ドル稼がなければ投資を回収できないという。
カーン氏の計算はこうだ。NVIDIAのデータセンター向け売上高予測を2倍にして総コストを算出し、さらに2倍にして粗利50%を確保する。その結果、AI企業は年間6000億ドルの収益を上げなければ投資を回収できない。
しかし現実の収益ははるかに小さい。米OpenAIの25年の売上は年130億ドル以上とされるが、それでも必要額の数%に過ぎない。競合が軒並み100億~200億ドル規模を稼いだとしても、まだ数千億ドル足りない。
根底にあるのは、推論コストの高さだ。AIモデルの学習は一度きりの投資だが、推論は使うたびにコストが発生する。顧客サービス用のチャットbotが1時間に数千件の問い合わせを処理すれば、それだけでトークン処理のコストが積み上がる。そして、このコストはずっと続く。
しかも新世代のAIモデルは、推論がさらに重い。OpenAIの「o1」から始まった高度な推論モデルは、1つの問題を解くために複数回の計算を繰り返す。精度は上がるが、計算コストは跳ね上がる。
そのコストはAPI料金などに転嫁されるが、ユーザー企業の現実はシンプルだ。「AIを導入したが、APIコストを計算すると人間より高い」「コード生成ツールを部署に展開したら、コストが生産性向上分を食いつぶす」──こうした事例は静かに広がりつつある。
スタンフォード大学によると、22年から24年でGPT-3.5級モデルの推論コストは280分の1まで下がった。一方で企業側のROIは改善しきれていない。米IBMと米Morning Consultによる24年の調査では「AI投資からポジティブなROIを得ている」と回答した企業は47%にとどまる。半数以上は「まだ経済的メリットがはっきりしない」という状況だ。
SaaS企業はさらに厳しい。AI機能を加えると計算コストが利益率を圧迫する。Microsoftは「Azure上のAI機能が売上成長率に16ポイント貢献した」と報告しているが、同時にAI関連設備投資が急増し、利益率は悪化している。
OpenAIの推論コストも重い。米TechCrunchは、24年の推論コストが従来報道を大きく上回る約38億ドルに達したと報じている。利用者は週8億人に達したが、それを支えるインフラコストは膨大だ。
NVIDIAにとって、推論需要は「第2の成長エンジン」のはずだった。しかしそのエンジンは、まだ本格的には始動していない。そして始動しても、採算が取れないかもしれない。学習フェーズへの巨額投資が一巡した後、期待されていた「爆発的な推論需要」が採算性の壁で立ち上がらなければ、企業はAI機能の利用を縮小し始める。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
よく見られているカテゴリー
アクセスランキング
-
1
「Claude Fable 5」をサブスクの標準機能に――AnthropicのエンジニアがXに投稿 7月8日以降の「早期復活目指す」
-
2
【2025年12月】ChatGPT、Gemini、Claudeの企業向けプランを徹底比較 “コスパ”以外の選定ポイントにも注目
-
3
ゲームエンジン「Godot」AI生成コードを原則禁止へ レビュアー疲弊「機械と話したくない」
-
4
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
5
Meta、「Claude Codeと組織改編で爆速開発」のはずが「想定より加速せず」 ザッカーバーグ氏、社内集会で発言
-
6
「今日言うつもりはなかったが……」 孫正義氏が明かした「ロボット自動量産工場」の実態
-
7
AIに「相手に電気ショックを与えろ」と命じ続けたらボタンを押すのか? 11のLLMで“ミルグラム実験” 抵抗できたのは……
-
8
任天堂、生成AIに対する考えを明かす 古川社長「ゲーム開発とAI技術はもともと近い」一方……
-
9
国内大手ロボットメーカー3社が協力、「フィジカルAI」向けデータセット構築へ
-
10
「Claude Fable 5」の性能が落ちた? 提供停止前後で比べた結果 米AI企業2社がそれぞれ報告
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR