AIエージェントのコスト、どこに「消えて」いる？ Google Cloud調査で浮上した“クラウド利用の盲点”：AIニュースピックアップ

AIエージェントの本番運用段階で、多くの企業がコストの問題に直面している。本番運用段階におけるコストは一体どこに「消えている」のか。Google Cloudの調査から浮かび上がった、AIエージェントの本番運用がITインフラにもたらす負荷の正体と、コスト抑制の手掛かりとは。

[ITmedia]

　Google Cloudは世界のIT部門のリーダー1402人を対象として、AIエージェントを支えるITインフラの実態を調査した。その結果、83％の組織が「本番運用レベルのAIエージェントを動かすには、ITインフラのアップグレードが必要だ」と回答した。

「現在のITインフラはAIエージェントにどの程度対応できるか」（出典：Google Cloudの公式ブログ）

　この調査結果を受けてGoogle Cloudは、従来のITインフラは自律的に動作するエージェントを想定して設計されていなかった、と指摘する。試験導入から本番運用に移る段階で、大多数の企業がITインフラの制約に直面している。

何がコストを押し上げている？

　では、AIエージェントの本格運用に向けてコストを抑制するために、企業はどうすべきか。まず、何がコストを押し上げているのか見てみよう。

コストを押し上げる「推論税」

　調査によると、62％のリーダーが、AIの推論に伴う「推論税」がコスト増に直結していると実感している。推論税の内訳はデータの外部転送（egress）や、膨れ上がるストレージ、遊休状態の専用ハードウェアにかかる料金だ。「運用の複雑さ」を隠れたコストとして挙げるリーダーも81％を占めた。

　Google Cloudは、コストがかさむ要因の一つとして、AIエージェントをクラウドで常時稼働させ、推論を止めずに動かし続ける構造を挙げる。

負荷を「手元」に移して変動コストを抑制

　こうしたコストを抑制するために企業はどうすべきか。一つのアイデアがAIエージェントのエッジへの組み込みだ。同調査では、AIのエッジ配備は「重要」と回答する組織が90％に上り、72％の組織が「非常に重要」と答えた。スマートフォンやIoT機器、現場のローカルサーバなどで最適化したモデルを動かせば、計算の負荷がクラウドから「手元」に移る。これにより、処理量に応じて増えるトークンあたりの変動コストを大幅に抑えられるという。AIのエッジ配備は、遅延の短縮や通信が途切れた際の業務継続にも効くと、同社は指摘する。

　Google Cloudは、「コスト効率を保つには、計算の負荷をどこで処理するかの見直しが必要だ」と指摘する。

　なお、本稿はGoogle Cloudが実施した調査「2026 State of infrastructure in the agentic AI era」を基にしたものだ。同調査は、世界のIT部門のリーダー1402人を対象に、AIエージェントを本番環境で運用するためのインフラの実態を尋ねており、年次調査の2回目に当たる。