AIバブル崩壊はいつ訪れる? 3つの「致命的トリガー」を考える NVIDIA決算の安堵は「嵐の前の静けさ」か(2/3 ページ)
第2の壁:AIは人間より高くつく?
推論コストがROIを押し下げる――学習から推論へAIのスケーリング則が移行することで、性能は一段アップした。しかしここで新たな問題が浮上している。AIを「使う」コストが、予想より高すぎるのだ。
米セコイア・キャピタルのデビッド・カーン氏は24年7月、AIインフラ投資とAIが生み出す収益の間に6000億ドルもの“ギャップ”があると指摘した。NVIDIAのデータセンター向け売上予測をベースに計算すると、AI企業は年間6000億ドル稼がなければ投資を回収できないという。
カーン氏の計算はこうだ。NVIDIAのデータセンター向け売上高予測を2倍にして総コストを算出し、さらに2倍にして粗利50%を確保する。その結果、AI企業は年間6000億ドルの収益を上げなければ投資を回収できない。
しかし現実の収益ははるかに小さい。米OpenAIの25年の売上は年130億ドル以上とされるが、それでも必要額の数%に過ぎない。競合が軒並み100億~200億ドル規模を稼いだとしても、まだ数千億ドル足りない。
根底にあるのは、推論コストの高さだ。AIモデルの学習は一度きりの投資だが、推論は使うたびにコストが発生する。顧客サービス用のチャットbotが1時間に数千件の問い合わせを処理すれば、それだけでトークン処理のコストが積み上がる。そして、このコストはずっと続く。
しかも新世代のAIモデルは、推論がさらに重い。OpenAIの「o1」から始まった高度な推論モデルは、1つの問題を解くために複数回の計算を繰り返す。精度は上がるが、計算コストは跳ね上がる。
そのコストはAPI料金などに転嫁されるが、ユーザー企業の現実はシンプルだ。「AIを導入したが、APIコストを計算すると人間より高い」「コード生成ツールを部署に展開したら、コストが生産性向上分を食いつぶす」──こうした事例は静かに広がりつつある。
スタンフォード大学によると、22年から24年でGPT-3.5級モデルの推論コストは280分の1まで下がった。一方で企業側のROIは改善しきれていない。米IBMと米Morning Consultによる24年の調査では「AI投資からポジティブなROIを得ている」と回答した企業は47%にとどまる。半数以上は「まだ経済的メリットがはっきりしない」という状況だ。
SaaS企業はさらに厳しい。AI機能を加えると計算コストが利益率を圧迫する。Microsoftは「Azure上のAI機能が売上成長率に16ポイント貢献した」と報告しているが、同時にAI関連設備投資が急増し、利益率は悪化している。
OpenAIの推論コストも重い。米TechCrunchは、24年の推論コストが従来報道を大きく上回る約38億ドルに達したと報じている。利用者は週8億人に達したが、それを支えるインフラコストは膨大だ。
NVIDIAにとって、推論需要は「第2の成長エンジン」のはずだった。しかしそのエンジンは、まだ本格的には始動していない。そして始動しても、採算が取れないかもしれない。学習フェーズへの巨額投資が一巡した後、期待されていた「爆発的な推論需要」が採算性の壁で立ち上がらなければ、企業はAI機能の利用を縮小し始める。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
よく見られているカテゴリー
アクセスランキング
-
1
ChatGPT vs. Google検索──どっちで調べるのが学習効果が高い? 8日間の実験で検証した研究
-
2
「Claude Fable 5」「Mythos 5」全面停止 米政府の指令により Anthropicは早期復旧を宣言
-
3
Amazon、Anthropicの最新AIについて懸念を伝えていた 米政権による停止命令に先立ち 関係筋
-
4
Sakana AI、初の商用プロダクト「Marlin」リリース その実力は?【出力レポート全文掲載】
-
5
最新AI「Fable 5」でYouTube動画作ってみた 想像以上の出来に驚愕、ただし大きな弱点も
-
6
「日本がいないと成り立たない」世界へ、フィジカルAIが導く独自の交渉力
-
7
“AIが電力使いすぎ問題” 「電力不足」懸念で、発電能力より深いボトルネックとは
-
8
トヨタが抜かれる日――キオクシア首位奪取、2005年「時価総額トップ10」を振り返る
-
9
「猫も杓子もAI」な現状は今後も続くのか?【後編】AI時代に必要な3つの検討事項
-
10
AI・ロボット人材は約340万人不足 労働市場のスキル需給、AIでどう可視化する?
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR