月100億トークン使うビズリーチ 「AIコスト増」懸念の中、費用対効果どう判断しているのか(1/2 ページ)
AI活用が広がる一方で、コスト増加への懸念が高まっている。月間約100億トークンを消費するというビズリーチCTOは、AIの費用対効果をどのように考えているのか。
少し前まで「生成AIをいかに導入するか」「利用率をどう上げるか」が企業の課題だった。導入や定着が進んだいま、次に直面するのが「AI利用の費用対効果をどのように評価するか」という問題だ。
AIエージェントなど高度な利用が広がるにつれて、AIの処理量を指す「トークン」の消費量が増える。AIサービスの利用料がかさむ中で「AI活用の推進」と「ビジネスの成果」の板ばさみになり、頭を抱える推進担当者もいるだろう。
そうした課題に対して、1人で月間約100億トークンを消費するビズリーチの外山英幸氏(執行役員 CTO/DX本部 本部長)は「AIの使用量が増えるほど、生産性も伸びる傾向がある」と話す。では、その「生産性の改善」が投資に見合うビジネス成果につながっていると判断するにはどうすればよいのか。
ビズリーチの外山氏と、AIサービス提供者の立場であるOpenAI Japanの宇都宮聖子氏(ソリューションズエンジニア)が意見を交わした。
本記事は人材サービスのビズリーチ主催イベント「BizReach Conference」(7月1〜2日開催)の講演「AI時代のキャリア論──OpenAI Japanとビズリーチが語る、生産性が大きく向上する時代の『組織』と『キャリア』」を基に構成したもの。
全社員にAI配布 利用率95%超えも「質はどうなのか」
――ビズリーチでは、AI活用をどのように進めてきましたか。
外山氏 AI活用は3つの段階があると考えています。最初は「個人活用」です。社員一人一人が自分の業務でAIを使う段階ですね。
当社では、約1年半前から全社員が「Gemini」を利用できるようにし「まずは使ってください」と利用を促してきました。その結果、週3回以上利用する社員が95%を超えるまで利用率は上がりました。
ただ、その次に見えてきたのが「量は増えたけれど、質はどうなのか」という課題です。そこで推進役となる「AIチャンピオン」を設けたり、コンテストを開催したり、コミュニティー内で活用事例を共有したりして、この1年は「良い使い方を組織全体へ広げる『全社展開』」に取り組みました。
いま、われわれが直面している課題であり、取り組んでいるのが、全社展開の先にある「組織成果」です。AI前提で組織を再設計して成果を出すフェーズです。
業務の一部では「工数80%削減」「生産性200%向上」といった成果は出ています。ただ、会社全体で見ると10〜20%程度の改善にとどまるケースが多い。これでは「革命」というより「改善」です。
AIへの投資がこれだけ進むのであれば「組織全体がパラダイムシフトした」といえるレベルまで変えなければなりません。そのために、組織を設計し直す必要があると考えています。
月100億トークン使って見えてきたこと
――AI利用量も非常に多いそうですね。
外山氏 当社は、OpenAIのAIコーディングツール「Codex」を活用しています。私自身も、1カ月で100億トークンほど使っています。
(外山氏が室長を務める、AIによるプロダクト創出を手掛ける組織である)「AI Product Studio室」では、AI利用量とプロダクト開発の生産性を継続的にチェックしています。AIを使う量が増えるほど、生産性も伸びる傾向が確認できています。
これはまだまだ伸びると思っています。この取り組みを1部門だけで終わらせず、会社全体に展開したいと考えています。
宇都宮氏 Codexは、ソフトウェア開発に携わるエンジニア向けにリリースしたプロダクトです。例えば、日常の複雑なタスクを自動化して「自分はボタンを押すだけ」というイメージですね。
メールの自動返信やデータ分析、商談システムの更新など、さまざまなエージェントが自分と同期せず、24時間眠らずに動いています。多数のエージェントをいかに多く動かせるのかが、社員の生産性を向上させる鍵の一つになると思います。
――「個人のAI利用は増えたが、チームの成果にどうつながるのか」という疑問を持つ企業もあります。AI投資はどう評価すればよいでしょうか。
宇都宮氏 先ほどお話にあった「トークン数」は、AIに対して入力したテキストの量や、出力されたデータ量を表す一つの指標です。
見るべきなのは(トークン数の量ではなく)「売り上げが伸びたか」「採用人数が増えたか」といったビジネスのKPIです。OpenAI Japanはまだ小さな組織ですが「売り上げを伸ばせているかどうか」など、事業成果で(AI利用の成果を)見ています。
外山氏 AI投資をどう評価するか――これは難しいテーマです。「アウトプットではなく、売り上げや契約数といったアウトカムで評価すべきだ」というのが理想でしょう。
ただ、現時点ではアウトカムだけを見るのは難しい面もあります。まずはアウトプットで測ればよいと思っています。例えばプロダクト開発なら、ソースコードの変更点を通知する「プルリクエスト」の数は分かりやすいアウトプットです。チーム全体でアウトプットが増えているかを確認することから始めればよいでしょう。
AIによってアウトプット量は確実に増えますし、開発サイクルも短くなります。すると、先週出した機能がどうだったかを翌週に確認し、その結果を踏まえて次の改善につなげる、といったサイクルを回しやすくなります。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
エンジニアの採用枠をトークン予算に回せるか? HRBrain常務が語る、「財布の壁」に挑む人事の未来
HRBrainの常務執行役員CSaO小山径氏は「AIも、これからは経営資源の一つになっていく」と話す。小山氏が見据えるAI活用の展望とは?
AI推進にブレーキ? AWS「コスト抑制の動きある」 “トークン消費問題”への有効策は
AI利用を巡って、処理コストを抑えようとする動きが出てきている。AWSも把握しているという“トークンコスト問題”について、対策を聞いた。- 「給与は10万ドル、トークンは使い放題」 NVIDIAフアンCEOが予言した、AIが“人件費”になる日
日本企業は中国製AIの利用に慎重だとされる。しかしその間にも、企業によるAI活用の現場では大きな変化が進行している。性能面では依然として米国のクローズドモデルが上位を占めるものの、実際の利用量では中国発のオープンモデルが急速に存在感を高めている。
AIが破壊するIT業界の“人月商売” 「SIerの死」後に“生き残る者”の正体
米Anthropicの機能発表で約8300億ドルの時価総額が消し飛んだ「AIショック」。画面の使いやすさで稼いできたSaaSや、時間と人数を積み上げるSIerの「人月商売」が崩壊の危機に直面している。だが、業界ルールにのっとった複雑な計算(ビジネスロジック)を握る企業は依然として強い。真の構造変化はどこで起きているのか。AIに仕事を任せるための「安全管理」の難所と、「現場派遣型エンジニア」(FDE)の正体に迫る。
死んだのは「低成長モデル」だけ HRBrainのCSaOが読み解く「SaaS is Dead」の本質
Salesforce出身で、創業10年のHRテック・HRBrainのCSaOを務める小山径氏。同氏は「SaaSは死んでいない」と主張する。その理由は?

