ITインフラの要件に“大変化” なぜ「電力」と「冷却」にAI活用が縛られるのか？：「新しい乱世」を生き抜くためのIT羅針盤

AI時代の到来により、ITインフラの要件に大きな変化が訪れています。データセンターを「どこに置くか」「どうやって冷やすか」が、AI活用の制約になるのはなぜか。新しいITインフラの要件に、IT部門がどのように対応すべきでしょうか。

[入谷光浩，株式会社アイ・ティ・アール]

この連載について

これまでどの時代でも、時代に適応した者だけが生き残ってきました。

テクノロジーの急速な進化、経済見通しの不透明さ、地政学リスクの顕在化、そして前例なき気候変動――。これまでの経験や常識が通用しにくいこの時代は、まさに「新しい乱世」と言えるでしょう。

今、企業に求められているのは、混迷の中を生き抜いていくために必要な次の一手を見極める力です。

そのための羅針盤となるのが、経営とビジネスを根本から変革し得るエンタープライズITなのです。

本連載では、アイ・ティ・アールの入谷光浩氏（取締役／プリンシパル・アナリスト）がエンタープライズITにまつわるテーマについて、その背景を深掘りしつつ全体像を分かりやすく解説します。「新しい乱世」を生き抜くためのITの羅針盤を、入谷氏とともに探っていきましょう。

　筆者は20年以上にわたり、ITインフラの市場や技術動向をアナリストとして見続けてきました。RISCサーバ、x86サーバ、サーバ仮想化、クラウドコンピューティング、コンテナ、ハイブリッドクラウド――。主役となる技術は変わってきましたが、企業ITインフラに求められる基本要件は、アプリケーションなどと比べると、一貫していたように思います。すなわち、システムを安定して稼働させ、止めずに運用し、必要な時に拡張できることです。しかし、生成AIやAIエージェントの本格活用が、この前提を大きく変えようとしています。

AIを「どこで」「どう動かすか」？

　企業の関心は「どのAIを使うか」「どの業務に適用するか」に向かいがちです。しかし、生成AIやAIエージェントを本格的に活用する段階では、「AIをどこで、どのように動かすのか」が急速に重みを増します。

　AIは大量の計算資源を必要とするため、電力や冷却に求められる水準も高まります。さらに、AIエージェントが業務システムと接続し、データ参照やAPI呼び出しを通じてタスクを実行する段階になると、単に処理性能が高いだけでは不十分です。誰が、どのデータをどのAIに使わせ、どこまで実行させるのかを制御できなければ、AIは競争力ではなく「新たなリスク」になってしまいます。

　つまりAI時代に問われるのは、「サーバやGPUをどこに置くか」だけではありません。データセンターやクラウド、ネットワーク、データ基盤を含めたITインフラ全体を見直し、AIを安全に動かし続け、必要な統制を効かせられるように再設計することです。

　長年ITインフラを見てきた筆者自身、AIの本格活用によって、ITインフラの捉え方を改める必要があると感じるようになりました。

電力と冷却にAI活用が“縛られる”ワケ

　AI時代のITインフラ要件を見直す上で、まず顕在化しているのが、データセンターの電力と冷却です。

　国際エネルギー機関（IEA）は、世界のデータセンターの電力消費量が2024年の約415TWhから、2030年には約945TWhに倍増すると予測しています（注1）。これは、2024年時点の日本の年間電力消費量をやや上回る規模です。この数字は、AI活用の拡大がデータセンターの設備要件を押し上げるだけでなく、電力供給システムをはじめとする社会インフラにも影響を及ぼすことを示しています。

（注1）Energy demand from AI（IEA）

　この背景にあるのが、AIワークロードの特性です。大規模な学習や推論にはGPUなどのAIアクセラレータが不可欠となり、ラック当たりの消費電力は従来の業務システムとは比較にならない水準に高まります。高密度に実装されたGPUは大量の熱を発生させるため、空冷だけでは十分に冷却できず、液冷【（冷却液を循環させてGPUなどの熱を取り除く方式）】の導入が必要になるケースも増えています。

　すなわち、AI基盤を構築したい場所で必要な受電容量を確保できるのか、GPUが発する熱を十分に冷却できるのか、そもそも既存のデータセンター設備で対応できるのか――。こうした物理的な要件が、AI活用の実現性を大きく左右すると筆者は考えています。

　これまでのIT部門には、サーバやクラウドサービスを調達すれば、必要なシステムを動かせるという前提がありました。しかしAI時代には、計算資源そのものに加えて、それを支える電力や冷却、設置環境まで含めて設計しなければ、AI活用の規模やスピードに制約が生じることになります。ITインフラの再設計は、まずこの物理的な制約を直視するところから始まるのではないでしょうか。

AI基盤はワークロードごとに最適な実行場所が異なる

　電力や冷却といった物理的な制約を考えると、AIを実行する基盤として、企業がまずクラウドサービスや外部のGPUリソースを選択するのは自然な流れです。自社で高密度GPUを収容する設備や運用体制を整えるよりも、既に大規模な計算基盤を持つクラウドサービスを利用する方が、AI活用を早く始めやすいからです。

　実際、筆者が勤務しているアイ・ティ・アール（以下、ITR）の調査でも、AI基盤を構築済みの企業では、クラウドサービスを利用している割合が50％と最も高く、オンプレミスを利用している割合は29％、ハイブリッドを利用している割合は21％となっています。

　ただし、この結果だけをもって「AI基盤はクラウドに集約される」と見るのは早計です。同調査によると、AI基盤を構築中またはPoC段階にある企業では、利用形態としてオンプレミスが42％、ハイブリッドが37％となり、クラウドサービスは21％にとどまっています。AI活用が本格化するにつれて、データの所在やコスト予測性、レイテンシ、運用統制といった観点から、クラウドだけではなくオンプレミスやハイブリッドを含めた配置が検討されるようになったことは注目すべきポイントです。

　この背景には、AIワークロードの多様化があるとみています。大規模なモデル学習では、膨大なデータと高密度なGPUクラスタ、広帯域ネットワークが必要になります。このような処理は、専用のAIデータセンターやハイパースケーラーのクラウド、大規模なGPU基盤を持つ外部サービスが適しています。

　一方、推論はやや性質が異なります。業務アプリケーションや顧客接点に近い場所で、一定の応答速度を維持しながら継続的に実行されることが多くなります。そのためレイテンシやデータの所在、可用性、コスト予測性が重視されます。工場や店舗、物流施設、病院など、特に現場に近い場所でAIを使う場合には、全ての処理を遠隔のクラウドに送ることが最適とは限りません。

　さらに、自社データを使ったRAG（検索拡張生成）や業務特化型AIエージェントでは、AIが参照するデータと実行する業務の関係が重要になります。顧客や取引の情報、設計や製造の情報、人事情報などを含む機密データをAIに使わせる場合、「データをどこに置くのか」「誰がアクセスできるのか」「どのシステムに接続させ、どのアクションまで実行させるのか」を設計しなければなりません。つまり、AI基盤は「クラウドかオンプレミスか」という単純な二択で考えるべきではないということです。

AI時代にデータセンター選定の「軸」が変わる

　AI基盤をワークロードごとに配置するという考え方に立つと、データセンターの位置付けも従来とは変わってきます。これまでデータセンター選定では立地や災害リスク、耐震性、回線品質、冗長性、セキュリティ、コストなどが主な評価軸でした。もちろん、これらの重要性が下がるわけではありません。しかし、AI前提のデータセンターでは、GPUを高密度に収容できる設備能力、十分な受電容量、液冷を含む冷却能力、低遅延なネットワーク接続、データ主権への対応といった新たな評価軸が加わります。

　さらに、データセンターを単なる設置場所としてではなく、AIが利用するデータや業務システムとの関係で選ぶ必要も出てきます。企業が自社データを使ったRAGや業務特化型AIエージェントを本格的に活用する場合、データをどこに置き、どの法制度の下で管理し、どの業務システムと接続させるのかが重要になります。特に、金融、製造、医療、エネルギー、公共のような領域では、AIに使わせるデータの所在やアクセス制御が、AI活用の前提条件になるケースも増えると想定されます。

　こうした要件を踏まえると、国内事業者が建設を進めているAI向けデータセンターの重要性は高まります。単に、計算資源を国内に置くためではありません。機密性の高いデータを国内で管理し、低遅延で業務システムと接続し、必要な統制を効かせながらAIを動かすための選択肢として意味を持つからです。海外のクラウドサービスやGPU基盤を活用することは今後も有力ですが、全てのAIワークロードを海外サービスに依存することが最適とは限りません。

　また、AI需要の増加は、データセンターの立地戦略にも影響を及ぼします。従来は大都市圏に近く、通信環境や人材確保の面で優位な場所にデータセンターが集中してきました。しかし、大都市圏では用地や受電容量の確保が難しいケースもあります。電力需要が特定地域に集中すれば、地域の電力供給や住民生活への影響も無視できません。

　さらに、高密度化したデータセンターから発生する排熱をどう処理するかも、地域との共存を考える上で重要です。そのため、都市圏だけでAIデータセンター需要を吸収し続けることは難しくなるでしょう。今後は電力供給や通信網、熱処理、地域分散を一体で考える必要があります。

　これは個々の企業やデータセンター事業者だけで解決できる問題ではなく、日本のIT業界と政府が連携して取り組むべき社会インフラの課題です。経済産業省と総務省が推進する「ワット・ビット連携」（注2）のような取り組みも始まっており、AIを前提とする時代にふさわしいデータセンター配置の再設計に期待したいところです。

（注2）ワット・ビット連携：　電力供給と通信ネットワークを一体で設計し、データセンターの立地やデータ処理の場所を最適化しようとする取り組み。

まとめ

　今回は、AIの本格活用がITインフラに突きつける変化を、電力と冷却という物理的制約、ワークロードごとの最適配置、データセンター選定軸の転換という流れで見てきました。共通するのは、ITインフラがもはやシステムを「安定して動かす器」にとどまらないという点です。AIが大量の計算資源を消費し、機密データを参照し、業務システムと連携するようになれば、どこで、どのようにAIを動かすかを設計する基盤そのものが企業の競争力を左右するようになります。

　AI活用の成否は、華やかなユースケースだけで決まるわけではありません。それを支えるインフラを、誰が、どのような視点で設計するかにかかっています。長年ITインフラを見てきた筆者自身、その認識を改める必要を強く感じています。AIという乱世の羅針盤を狂わせないために、その土台をどう描き直すか――。いまIT部門とITリーダーにこそ、そのかじ取りが問われているのではないでしょうか。

筆者紹介：入谷光浩（アイ・ティ・アール　取締役 / プリンシパル・アナリスト）

IT業界のアナリストとして20年以上の経験を有する。グローバルITリサーチ・コンサルティング会社において15年間アナリストとして従事、クラウドサービスとソフトウェアに関する市場調査責任者を務め、ベンダーやユーザー企業に対する多数のコンサルティングにも従事した。また、複数の外資系ITベンダーにおいて、事業戦略の推進、新規事業計画の立案、競合分析に携わった経験を有する。2023年よりITRのアナリストとして、クラウド・コンピューティング、ITインフラストラクチャ、システム運用管理、開発プラットフォーム、セキュリティ、サステナビリティ情報管理の領域において、市場・技術動向に関する調査とレポートの執筆、ユーザー企業に対するアドバイザリーとコンサルティング、ベンダーのビジネス・製品戦略支援を行っている。イベントやセミナーでの講演、メディアへの記事寄稿の実績多数。