トークン消費量を競わせても無意味 AI支出を成果に変える指標とは：AIニュースピックアップ

生成AIの業務利用が広がり、IT費用にトークン単位の従量課金が加わった。その請求額の内訳をどこまで説明できるかが問われ始めている。では、IT部門は何を指標に据え、どこに投資すべきなのか。

[ITmedia]

　生成AIの業務利用が広がり、企業のIT費用にトークン単位の従量課金が加わった。サーバやライセンスと違い、トークンの消費は利用者の使い方によって日々変わる。複雑な課題を解くために使ったトークンも、そうでないトークンも、請求書の上では区別が付かない。

　パスワード管理ツールを手掛ける1Passwordは2026年8月6日（現地時間）、この状況を「AI支出の二日酔い」と表現するブログ記事を公開した。筆者は同社のジェイソン・メラー氏（製品担当バイスプレジデント）だ。同記事が出発点に置くのは、フロンティアモデルの推論費用が従来の計算資源のコストとは性質が異なる点だ。クラウド利用料が高くなれば、自社でデータセンターを建てて減価償却の見通しが立つ資本投資に振り替えられる。フロンティアモデルの推論では同じことができない。

　一方で、フロンティアモデルの利用を一律に禁じれば済む話でもない。モデルへの依存はすでに不可逆な段階にまで来ている。予算を抑えながら成果を出す組織は、何を変えているのか。

AI支出を成果に変える条件とは

　メラー氏が挙げる答えは、推論そのものを増やすのではなく推論を減らすためのツールに投資すること、そして成果をトークン消費量ではなくアイデアが顧客に届くまでの時間で測ることの2点だ。

　同氏は、より多くの作業を工夫なくこなすエージェントは、その分だけ推論トークンを消費すると説明する。能力の曲線とコストの曲線が同じ線になるという指摘だ。

　解決策として同氏が挙げるのが、プラットフォームエンジニアリングの発想だ。抽象化の層は、その上にいる人の作業を減らすために存在する。同じように、あるエージェントの役割は次のエージェントが必要とする推論を減らすことにある。この足場を作れば、指数関数的に伸びるコスト曲線は緩やかになる。

　同氏は、ある経営幹部から聞いた例を挙げる。その企業で最もトークンを消費していた担当者は、自身がその立場にあることを知らなかった。この担当者は製品全体のコンパイルログをモデルに丸ごと読み込ませ、どのエラーが増えているかを2日おきに調べていた。メラー氏によれば、この処理は数万ドル規模の推論費用に上っていた可能性がある。ログを走査して解析するソフトウェアをモデルに書かせれば、1日50セント程度のCPU費用で済む処理だった。

　AI支出の無駄を削る最も簡単な方法は、モデルに計算そのものをさせるのではなく、計算するコードを書かせることだと同氏は述べる。

　判断を伴う工程については、メラー氏は別の見方を示す。AIはコードを書くことには長けているが、判断は不得手だという指摘だ。リポジトリに対して「十分なテストカバレッジを」と指示すると、モデルはコードベースを理解しないまま、重要な箇所ではなく検証しやすい箇所をテストする。そのうえで過剰なコメントや自信ありげな要約を付け、品質があるように見せる。

　同氏が有効だとするのは、AIを使ってカバレッジを測る決定的な仕組みを作り、重要な公開インタフェースを狙って検証するやり方だ。残った穴をモデルに埋めさせた後、制御はツールに戻す。最終的な承認は人が持つ。人と決定的な検査を経路上に残さなければ、誤りを含み、しかも学習しない判断に高い対価を払うことになる。

測るべきは「アイデアから顧客まで」

　メラー氏は、トークン消費量は価値の尺度としてほとんど意味がないとみる。消費量でエンジニアを順位付けするリーダーボードは、消費することを教えるだけだからだ。使用状況の把握は予算管理に必要だが、支出額とAIの成果はほとんど結び付かない。

　同氏が重要だとするのは、アイデアや要件定義書が顧客の手元の価値になるまでに、実際に何日かかったかだ。AIの有無と関係なく測れる基準から始まるため、AIエージェントでしか解決できない問題という前提を置かずに済む。使用状況のダッシュボードが何を示していても、この数値が下がらなければ投資は効いていないことになる。

　メラー氏は、注視すべき要素として次の3つを挙げる。

1. 速度：アイデアが顧客に届くまでの時間そのもの
2. 容易さ：エンジニアが1週間のうち、現状維持の作業や自分たちのツールとの格闘ではなく、価値を生む作業にどれだけ時間を充てられているか
3. 品質：出荷したものが利用者の使用に耐えるか。欠陥がどれだけ流出し、どれだけ早く復旧し、利用者が結果を評価している

　メラー氏は、AI予算の問題を解く最初の一歩は、チーム、ユーザー、モデルの単位でトークンの使われ方を把握することだと述べる。なお1Password自身も、AIのコストと利用状況を把握し、予算設定や消費ペースの追跡、前払い残高が尽きる前に通知する機能を提供しており、今回のブログ記事はその文脈で公開されている。