AIバブル崩壊はいつ訪れる? 3つの「致命的トリガー」を考える NVIDIA決算の安堵は「嵐の前の静けさ」か(2/3 ページ)
第2の壁:AIは人間より高くつく?
推論コストがROIを押し下げる――学習から推論へAIのスケーリング則が移行することで、性能は一段アップした。しかしここで新たな問題が浮上している。AIを「使う」コストが、予想より高すぎるのだ。
米セコイア・キャピタルのデビッド・カーン氏は24年7月、AIインフラ投資とAIが生み出す収益の間に6000億ドルもの“ギャップ”があると指摘した。NVIDIAのデータセンター向け売上予測をベースに計算すると、AI企業は年間6000億ドル稼がなければ投資を回収できないという。
カーン氏の計算はこうだ。NVIDIAのデータセンター向け売上高予測を2倍にして総コストを算出し、さらに2倍にして粗利50%を確保する。その結果、AI企業は年間6000億ドルの収益を上げなければ投資を回収できない。
しかし現実の収益ははるかに小さい。米OpenAIの25年の売上は年130億ドル以上とされるが、それでも必要額の数%に過ぎない。競合が軒並み100億~200億ドル規模を稼いだとしても、まだ数千億ドル足りない。
根底にあるのは、推論コストの高さだ。AIモデルの学習は一度きりの投資だが、推論は使うたびにコストが発生する。顧客サービス用のチャットbotが1時間に数千件の問い合わせを処理すれば、それだけでトークン処理のコストが積み上がる。そして、このコストはずっと続く。
しかも新世代のAIモデルは、推論がさらに重い。OpenAIの「o1」から始まった高度な推論モデルは、1つの問題を解くために複数回の計算を繰り返す。精度は上がるが、計算コストは跳ね上がる。
そのコストはAPI料金などに転嫁されるが、ユーザー企業の現実はシンプルだ。「AIを導入したが、APIコストを計算すると人間より高い」「コード生成ツールを部署に展開したら、コストが生産性向上分を食いつぶす」──こうした事例は静かに広がりつつある。
スタンフォード大学によると、22年から24年でGPT-3.5級モデルの推論コストは280分の1まで下がった。一方で企業側のROIは改善しきれていない。米IBMと米Morning Consultによる24年の調査では「AI投資からポジティブなROIを得ている」と回答した企業は47%にとどまる。半数以上は「まだ経済的メリットがはっきりしない」という状況だ。
SaaS企業はさらに厳しい。AI機能を加えると計算コストが利益率を圧迫する。Microsoftは「Azure上のAI機能が売上成長率に16ポイント貢献した」と報告しているが、同時にAI関連設備投資が急増し、利益率は悪化している。
OpenAIの推論コストも重い。米TechCrunchは、24年の推論コストが従来報道を大きく上回る約38億ドルに達したと報じている。利用者は週8億人に達したが、それを支えるインフラコストは膨大だ。
NVIDIAにとって、推論需要は「第2の成長エンジン」のはずだった。しかしそのエンジンは、まだ本格的には始動していない。そして始動しても、採算が取れないかもしれない。学習フェーズへの巨額投資が一巡した後、期待されていた「爆発的な推論需要」が採算性の壁で立ち上がらなければ、企業はAI機能の利用を縮小し始める。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
経営「AIでラクして早く帰って」→社員「帰らない」 工数最大9割減のDeNAも悩むAI効率化の壁
-
2
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
3
Microsoftが進めるCopilot再編 「Microsoft Copilot」への移行で、企業への影響は?
-
4
ローカルLLM利用のクリニックが話題 院長自ら環境を構築 「医療機器より安い」は本当か
-
5
東京ゲームショウと生成AI ゲームの祭典で商談見込むベンダーたち
-
6
恐るるに足らず? 中国フィジカルAI主要15社と5大集積地で見る「点と線と面」
-
7
パナソニック・サムスン撤退の裏で「中国勢5割」 独IT見本市「IFA」トップが明かす舞台裏
-
8
散在する“29万ファイル”をAmazon S3に集約、「AIに聞くだけ」で検索可能に――AWSはどう実現?
-
9
経営者は「AI導入」に夢中、現場は「IT環境」に疲弊 ITサポート軽視が招く時間・人件費ロスの実態
-
10
九州国立博物館、特別展ポスターに生成AI使用 当初「使用していない」と説明
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR