企業はこれまで、もろ手を挙げて「AI活用」を推進してきた。しかし、その勢いに陰りが生じている、という指摘がある。「AIの利用コスト」を無視できなくなり、野放図に使うわけにいかなくなったというのだ。
生成AIサービスの利用料金は、AIの処理量を指す単位「トークン」で表されることが多い。米OpenAIのAIモデルをAPIを介して使う場合、英語での目安は「1トークン=約4文字」「100トークン=約1段落」だ(7月6日時点)。テキストの入出力で価格が異なり、同社のAIモデル「GPT-5.5」は100万トークン当たり、入力時が5ドル、出力時が30ドルの価格設定になっている(同時点)。
数ドルなら安価に感じるが「全社員がAIに長文を生成させる」「数万行のプログラミングコードをAIに書かせる」「自社サービスに組み込んだAIが常に動作している」といった使い方をすると、あっという間にトークン消費量が積み上がる。「AIエージェント」など高度な処理ほどトークンを消費するため“トークンコスト問題”の議論は避けられないとみられる。
米Amazonによると、生成AI基盤サービス「Amazon Bedrock」において「第1四半期(1〜3月)に処理されたトークン数が、過去全期間の合計を上回り、顧客支出額は前四半期比で170%増加した」という。
企業はトークンの消費コストにどう向き合うべきか。米Amazon Web Services(AWS)の日本法人幹部が、取材に答えた。
アマゾン ウェブ サービス ジャパン(以下、AWS Japan)は、同社の年次イベント「AWS Summit Japan 2026」(6月25〜26日開催)において、同社幹部や技術陣が記者の質問に答える「Q&Aセッション」を開いた。そこでの回答を紹介する。
AWS Japanの瀧澤与一氏(執行役員 パブリックセクター 技術統括本部長)は、トークンの消費量だけでなく、成果にも目を配る必要があると話した。
AI活用によってトークンの利用が増える中、それをコストと捉えて抑制する動きがあるようだ。AWSとして話を聞くこともある。
一方で、AIによって生産性が向上したり「売り上げ」「利益」などのビジネス指標が改善したという話もよく聞く。
TCO(総所有コスト=初期コスト+運用コスト-残存価値)を意識して、トークンの消費と抑制についてバランスを取らなければならない。AI活用は、経営の判断事項の一つだ。
ある1つのツールのトークン消費量だけをみて「高い」「低い」と議論することが必要なこともある。(コストを抑えて)利益を最大化するという意味では重要だ。
AWSとして、TCOの観点で「そのAIが何を生み出しているか」に着目し、最適なインフラ構成やシステムを提案したい。
これは非常に重要な問題だ。「AIによって生産性や創造性が上がった」という話は多い。AIへの投資なしにリターンは得られない。どのようにしたら顧客のビジネスが成功するのか、AWSとして常に考えたい。
(瀧澤氏)
AWS Japanの清水崇之氏(技術統括本部 ソーシャルソリューション&サービスグループ本部長)は、AWSとしての対応を説明した。
コンタクトセンター向けサービス「Amazon Connect Customer」(旧Amazon Connect)は、4月にブランドをリニューアルし、トークンを無制限で利用できるようにした(※注:チャット1件で0.01ドル、通話1分で0.038ドルなどの価格設定で、分析や自動化などAI機能は無制限で提供するという)。
これまでは「会話の往復がどれだけ続くか」「相手の回答が完了するまでにどれだけ時間がかかるか」など、トークン消費につながる部分を予測できなかった。Amazon Connect Customerは、会話の往復回数に上限を設定して、AIの生成を抑えるなどコストを予測可能な形にできる。
このように、コストを高めずに使えるサービスがAWSに登場している。
(清水氏)
AWS Japanの巨勢泰宏氏(常務執行役員 技術統括本部長)は、企業がAIモデルを使い分ける可能性に言及した。
トークン数が増えていることを課題視する企業は、実際に増えていると思う。AIを使いこなしているほど、その課題感は強い。
そうした企業が対策の一つとして考えているのが「オープンウェイトモデル」(※注:誰でも使えるよう公開されているAIモデル)の活用だ。
1つのAIモデルで全てを解決するのではなく、事業課題に対していろいろなAIモデルを使いこなす。精度、性能、コストの間で適切にバランスを取ろうとするケースが増えている。
先端モデルだけでなく、オープンウェイトモデルの事例が日本でもたくさん出てくることを期待している。
(巨勢氏)
米Amazonが4月29日(現地時間)に発表した決算によると、2026年第1四半期(1月〜3月期)におけるAWS事業の売上高は約375億ドルで、前年同期比28%増だった。過去15四半期で最大の成長率だという。生成AI需要の拡大が、売り上げを後押ししたとみられる。
AI投資の「思わぬコスト」──企業が見落としがちな財務負担とは
AIのコストが経営テーマに NVIDIAが狙う“推論の王国”と継続課金型の帝国
月28本の記事“量産”で記者が見たもの AIを使って勝つ企業・勝てない企業を分ける「競争軸」とは?
「AIを使うと他社と似てしまう」課題をどう乗り越える? 「プロダクトの差別化」の要点Copyright © ITmedia, Inc. All Rights Reserved.
Special
PR注目記事ランキング