生成AIの請求書、人件費と並べる時代へ 国内5社のAI責任者が語る「トークンマネジメント」の現在地(2/4 ページ)
トークンと人件費が同じ天びんに
トークンマネジメントとは何をすることなのか。最も具体的に語ったのは、freeeでCAIO(最高AI責任者)を務める横路隆氏だ。同氏は「管理会計のアップデート」そのものだと位置付ける。
freeeでは、どの部署の誰が何の目的でトークンを使ったかを全てログに残す仕組みを整えている。そのうえで部門別のPLに費用を割り付け、各部門のPL責任者に予算の権限を委譲している。トークン費用が情報システム部門の一括管理から、事業部門の責任へと移った形だ。
ここから先が、従来のコスト管理とは違う。「今期は外注費と採用費をこれだけ減らすから、AIトークン費用にこれだけ投資する」──横路氏によると、PL責任者たちはこうした投資計画を立てるようになったという。人件費とトークン費用を合わせてROIが成立しているかを見るわけだ。
さらに、人件費をトークン費用に置き換えてアウトカムを伸ばせないかまで考える。「経営の根幹をなすようなところでのトークンマネジメントが必要になってきている」と横路氏は話す。
可視化の徹底ぶりでは、LayerXが目立つ。同社は全社員のトークン使用量を、金額に換算して実名で開示している。2月から5月まで、誰が何トークン使ったかが全員に見える。人事・広報を担当する執行役員の石黒卓弥氏は「福島(CEO)がどれだけ使っているかも見える」と語る。月ごとの残高まで全社員が把握できるという。
ただ、狙いは締め付けではない。「あの仕事はこのくらいなんだ、という感覚を持つこと」という。AI利用のコスト意識を、現場の肌感覚として根づかせる試みだ。
石黒氏はトークン費用を「減価償却費のように見る」とも表現する。外注に払った金は組織に残らないが、AIに使ったトークンは結果がフィードバックされ学習され組織や製品に蓄積される。今年度だけでなく、翌年度以降の基盤になる支出だと捉えている。
ラクスもまさに取り組みを始める。CAIOの本松慎一郎氏は、トークンと人件費を一体で見る取り組みを「まさに今そこを始めようとしているフェーズ」と話す。「人の推移とトークンを人月換算したときの比較で、過剰なAI投資になっていないかを見ていく」という。翌月の取締役会で議題に上げ、継続的に点検する考えだ。
実装の度合いには差があるが、AIを最大活用している各社の向かう先は同じ。トークンと人件費を同じROIの土俵に載せて測ることだ。週に何回AIを使ったかを数えていた段階から、各社はひとつ先へ進もうとしている。
「高いから使わない」ではなく「どう安く使うか」
コストが膨らむなら、使用を抑えればいい。そう考えがちだが、取材した各社の力点は単純な抑制ではなかった。コストを抑えつつ使い続けるための最適化。どのタスクにどのモデルを充てるかを選び分けることで、使う量を減らさなくてもコストは下げられるという立場だ。
カギはモデルの使い分けだ。freeeの横路氏は、複雑な戦略や設計を考える部分にだけ高性能なフロンティアモデルを使い、実行段階は安いモデルに任せる構図を描く。「全部の業務がOpus、Sonnetでなくても回る。モデルを変えてもエージェントが動き続ける基盤さえあれば、コストの安いモデルに切り替えていける」(横路氏)。要件定義からデリバリーまで、どのモデルをどう組み合わせ、どの順で走らせれば一番安く速いか。その設計が腕の見せどころになる。
「Claude Codeの責任者に聞いたら、Anthropicの社内も同じようになってきていると話していた」と横路氏。コストを抑えて大量に作る仕組みづくりへ、開発現場は動いている。
メルカリも同じ方向を見る。CHROとCAIOを兼務する木村俊也氏も、トークンコストをいかに抑え込むかに関心を寄せる。「何でもかんでも高級なモデルに全部任せると跳ね上がる。ルーティングを自動的にすれば、コントロールできる」(木村氏)
ただし、コストを意識させすぎれば、現場は萎縮し、試す手が止まる。LayerXはむしろ「今は使い倒すべきだ」という考え方を前面に出す。石黒氏は今を「バーゲン期間」と呼ぶ。AIベンダー各社が赤字覚悟で安く提供している今のうちに使い倒すことに意味がある、という考えだ。
「本来2倍、3倍、5倍、10倍するものを、このボーナス期に圧倒的に使わせてもらっている」(石黒氏)。値上げが本格化する前に、組織として使いこなせる状態を作っておく。コスト最適化と、あえての先行投資。各社はこの2つを同時に走らせている。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
メルカリ、梨の転売疑惑に「盗品の出品は確認されず」 誹謗中傷には利用制限も
-
2
「こんなのに追われたら……」急斜面もやすやす爆走、中国製の車輪付き四足ロボのデモ動画が話題 最高時速20km超
-
3
検索結果に「詐欺ではありません」と表示させる詐欺手口、警視庁が注意喚起 AI要約も餌食に
-
4
はてな、11億円流出の調査報告書を公開 偽警察、口外禁止、残業・休出200時間超、孤立……ほころびが連鎖
-
5
Z世代に聞く次の流行、「AIイラスト」が1位に 「Claude Code」も上位
-
6
東野圭吾さん死去、Xなどで追悼相次ぐ 「ガリレオ」など数々の人気作、エンジニアから転身
-
7
NVIDIAやMicrosoftなど30社超、オープンAIの防御ツール共同開発の「Open Secure AI Alliance」設立
-
8
「あ、その情報メモしたい!」を叶えるワイヤレスイヤフォン、Nothing「Ear (3a)」
-
9
有識者はGoogleやX、Meta、ドワンゴを名指しで批判……総務省、偽広告や誹謗中傷に発信・拡散前の対策求める
-
10
暑さ対策が熱い! 「猛暑対策展」で感じた、転んでもただでは起き上がらない日本人のエネルギー
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR