旧世代GPUを使い倒すには　メモリ能力の最大化とアイドリングタイムの活用が鍵：価格高騰、納期遅延を打開

AIエージェントの運用需要が高まる一方、GPUサーバの価格高騰や納期遅延が重荷となっている。既存GPUリソースを限界まで使い、メモリ不足や稼働率低下を打破する手法とは。

PR／ITmedia

» 2026年10月05日 10時00分公開

　AIの発展は目覚ましく、生成AIの対話的利用を経てAIエージェントの本格利用の時代に入りつつある。こうした変化を受けて、これまで以上に社内のデータをAIに学習させるニーズが高まっている。ただし機密保持やセキュリティの観点から、自社環境で独自のAIシステムを運用したいと考える企業も増えている。

　一方で、長引く半導体不足の影響で新規のGPUサーバ導入が困難になってきていることが逆風となっている。さらに、現状のAIシステムはGPUを搭載したAIサーバを購入するだけで運用できるというものではなく、高度な技術力を備えたエンジニアによるインテグレーションを要する。しかし、そうした人材が不足していることも、企業が社内にAIインフラを構築する上での障壁となっている。

課題山積みのAI基盤構築、解決策は

　AIの利用は、生成AIに自然言語で問い合わせるという段階からAIエージェントに一定の業務遂行を委任するという段階に移ってきた。インターネットで公開されている情報についてAIチャットbotに問い合わせるだけなら、クラウドサービスを利用すればよい。しかし、AIエージェントが業務を遂行するに当たっては、社内だけで完結した環境で運用したいと考える企業も増えてくる。

　そこで、壁となるのがGPUを搭載したAIサーバの調達コストだ。エクストリーム－Dの柴田直樹氏は、「GPUが搭載されているAI向けの高パフォーマンスサーバの購入価格は現場感覚でコロナ禍前に比べ1.5倍から2倍くらいになる場合があります。例えばAI向けのサーバ導入予算をこれまでの常識レベルで2台分の予算を確保しても実際には1台しか買えないという状況が出てきます。仮に1台分の予算さえ確保できなければ、導入そのものが困難な状況になります」と説明する。

　「AI向けGPU搭載サーバの償却期間は長期化し、5年を大きく超えて運用するケースは増えています。米国の著名なAI向けクラウド業者においても、GPUサーバを9年以上運用する例がGPUを提供するAIクラウド業者自身の事例として公開されています」と柴田氏は語る。こうした状況では、GPUリソースをいかに効率良く利用するかといった課題もある。AIサーバを運用するためのデータセンターやソフトウェア群の選定、環境設定など、これまでのサーバ運用とは異なる知識も必要となる。

エクストリーム－Dの柴田直樹氏（代表取締役CEO兼最高技術責任者）

　エクストリーム－Dは、高度な演算処理（HPC：High Performance Computing）を実行するユーザー企業を支援してきた。現在力を入れているのは、AIサーバ向けの支援サービス「Raplase AI Next」だ。

　柴田氏はRaplase AI Nextの特徴を「CTO as a Service」と表現する。CTO（最高技術責任者）をサービスとして利用できるというイメージだ。クラウドプロバイダーのAIサーバのレンタル提供に比べて、実際の運用開始までの準備やSIerの外部エンジニアリング不要で、生成AIをプライベートで運用するための実運用レベルのセットアップをわずか数十分で完了できるプラットフォームサービスになっている。

Raplase AI Nextの概要図（提供：エクストリーム－D）《クリックで拡大》

　Raplase AI Nextは固定化されたメニューを提供する形のサービスではなく、顧客が自社のAIサーバ基盤、クラウドインスタンス（サーバ）など環境に依存することなくRaplase AI Nextを追加する形で導入することで「CTO as a Service」が実現できるサービスだ。そのため、単にサーバにローカルAI環境を自動構築するだけではなく、同社の目利きで選定された技術を提供する。その一端が、GPUの利用効率改善に寄与する富士通の「AI Computing Broker」（ACB）をオプションとして利用できることだ。

GPUの使用率を最大化する"AI Computing Broker"という選択

　AI Computing Brokerは、GPUリソースの利用を動的に最適化し、既存GPUの性能と稼働率を最大限に引き出すインテリジェントなミドルウェアだ。GPUメモリの管理機能も備え、物理メモリ容量を超える要求を含む複数のAI処理を効率的に扱えるよう支援する。ACBの開発を担当した富士通の吉田英司氏は、「今までは高価なGPUを導入した数がサーバ製品の強みになっていました。しかし実運用段階になってきた現在では、このGPUはどのようなビジネス成果を出してくれたのかという費用対効果が評価されています」と語る。

　ACBは既存のAIアプリケーションのソースコードを変更せずに導入できる。既存のAIモデルやアプリケーションを大きく作り直す必要がないため、導入時の検証範囲や開発負荷を抑えながら、GPUリソースの利用効率向上を図ることが可能だ。

　「実際、GPUを大量に導入しても使用率が低く、アイドル状態になっている時間もかなりあります。そうした課題を踏まえて開発したのがACBです」（吉田氏）

富士通の吉田英司氏（人工知能研究所AIコンピューティングCPJシニアプロジェクトディレクター）

　ACBは「GPUが必要なときに、その瞬間だけGPUを割り当てる」と吉田氏は話す。通常のGPU割り当てはジョブ単位で実行される。そのため、あるジョブがGPUを占有している間は、そのジョブが実行されていないとアイドル状態に陥ってしまう。しかしACBは、ジョブ単位ではなくより細かい処理の単位で割り当てる。GPUを利用する処理が実行されるタイミングにだけGPUを割り当て、その割り当てを複数のジョブ間で動的に変更することでGPUのアイドリングタイムを最小化できる。

　さらに、ACBにはGPUメモリ利用を最適化する機能があり、ユーザーによるメモリ容量の調整や運用負担を軽減できる。柴田氏は「ユーザー企業がAIアプリケーションを使う場合、GPUに搭載されているメモリの容量が問われます。最新GPUは大量の内部メモリが搭載されていますが、高額で納期も長期化しています」と指摘する。

ACBの概要図（提供：富士通）《クリックで拡大》

　演算能力については、旧世代のGPUで十分なことも珍しくない。メモリだけが足りない状況が起こりがちだ。それが、Raplase AI NextとACBの組み合わせを導入するきっかけになっているという。

　AI利用が高度化する中で大容量のデータを参照するようになってきていることから、要求されるGPUメモリも大容量化している。新世代のGPUでは搭載メモリ量も増加している。しかし、「そうそう簡単に最新世代製品を買えるわけでもないので、旧世代のGPUで何とか賄っていこうとした場合、ユーザー側でメモリの不足分を埋める工夫をする必要があります」と柴田氏。

　ACBはメモリ管理を自動化し、複数のAI処理による総メモリ要求が物理メモリ容量を超える場合でも、データの退避や再配置を行いながら処理を継続できるよう支援する。吉田氏は「GPUメモリ量を超過し、ソフトウェアが停止してしまうというトラブルは頻繁に発生します。ACBは、実メモリ量を超えそうになるとデータを別の領域に退避したり、メモリに余裕がある場合は逆に他の処理をそこに割り当てたりするなど、GPUのリソース利用を最適化します。一例ですが、2台のGPUサーバが必要なところACBを導入したら1台で済んだケースがあります」と述べる。

今あるリソースを有効活用するために

　富士通は、HPC分野で豊富な知見と独自技術を有している。エクストリーム－DもHPC分野で優れた技術を持っており、それをAIサーバの分野に展開した形だ。

　両社のパートナーシップについて吉田氏は、「富士通がHPCで培った技術をどうやって広げるかと考えたときに、実際にお客さまと接しているエクストリーム－Dさんのようなところと組んでACBを組み込んでもらい、お客さまに提供していただくのがよいのではないかと考えました」と語る。

　柴田氏はACB採用の決め手として、ACBのメモリ管理機能が大きかったと明かす。「GPUの利用効率向上や複数ワークロードの実行効率改善は、Raplase AI Nextが目指すコストパフォーマンスの高いAI基盤提供とも親和性が高かったです。ACBのメモリオーバーロードの機能があれば、GPUが旧世代製品でメモリが足りなくてもお客さまがやりたいことができる環境をつくれます。お客さまの課題を解決できる一つの大きなファクターだと感じました」と振り返る。

エクストリーム－Dが実証した旧世代GPUによるACB検証結果（提供：エクストリーム－D）《クリックで拡大》

　新品のAIサーバやGPUが入手困難になっている現状に対し、既に導入済みの旧世代品を有効活用する際の難易度を大きく軽減するツールとしてRaplase AI Nextでも「Raplase AI Next＋ACB」を積極的に提案する。なお、ACBについては富士通でも事業化を進める予定だという。

　一般的なGPUの利用率は思いの外低く、投資効率が悪いという指摘がユーザー企業の課題として浮上している。そこを効果的に改善できるRaplase AI Next＋ACBは、GPUの世代を問わず活用可能なツールとして、日本国内におけるAI利用を強力に支える役割が期待される。

Amazonギフトカードが当たる！アンケート実施中

本記事に関連して「高負荷な計算業務」に関するアンケートを実施しています。回答された方の中から抽選で10名様に、Amazonギフトカード（Eメールタイプ）3000円分をプレゼントいたします。当選者には、アイティメディアIDにご登録のメールアドレス宛にギフトをお送りします。当選者発表はギフトの送付をもってご連絡とさせていただきます。ぜひ下記アンケートフォームよりご回答ください。

ログインまたは会員登録（無料）いただくとアンケートフォームが表示されます。オレンジ色の「アンケートに回答する」ボタンからアンケート回答をお願いいたします。