“テスラ超え”狙う――チューリング「完全自動運転」までの道 「GPUより速いチップ」使った開発のウラ側（3/3 ページ）

[平 行男，ITmedia]

構築期間は「2週間」　Turingは計算基盤をどこに置いたか

　Turingが新たな計算基盤を築く土台に選んだのが、米Googleのクラウドサービス「Google Cloud」だ。4月から構築を始め、2週間で立ち上げた。

　「NVIDIA H200 GPU」（以下、H200）を8基搭載した仮想マシンを30台並べ、データの前処理などはCPU（中央演算処理装置）のマシンに任せる。スーパーコンピュータで広く使われるジョブ管理ソフト「Slurm」を通じて、社内の研究者やエンジニアから成る複数のチームで計算資源を分け合う。

　山口氏が「肝になった」と語るのが、ストレージの設計だ。同氏は「GPUの性能をフルに生かすには、GPUを遊ばせないことが大事になる。GPUが遊ぶ原因は、だいたいストレージとネットワークだ」と述べる。

　そこで、ストレージを用途ごとに4つの階層に分け、Google Cloudのサービスを使い分けた。長期保存と成果物の管理は「Cloud Storage」、利用者ごとの作業領域は「Filestore」、学習データの高速な読み書きは「Managed Lustre」が担い、AI学習時の一時的なデータ保管場所（キャッシュ）には仮想マシン直結の「SSD」（Solid State Drive）を使う。

　データの引っ越しも課題だった。同社は普段、走行データを米Amazon Web Servicesのストレージ（米国オレゴン州）に置いている。これをインドのムンバイのデータセンターにある新基盤へ移すため、Google Cloudのデータ転送サービス「Storage Transfer Service」を使った。太平洋を越えても毎秒約6〜7ギガで転送できたといい、100テラ級のデータを数時間で移して実験を始められた。

同じ価格なら約3倍速い？　NVIDIAとGoogleのチップを比較

　Google Cloudを選んだ理由の一つに、GoogleがAI処理向けに開発した半導体「TPU v6e」を利用できることがあった。利用料金は、H200が1基で月約125万円、TPU v6eが4チップで月約128万円だ。

　Turingが開発するモデルと同規模の画像系AIモデル2種で学習時間を計ると、H200ではそれぞれ「370秒」「406秒」だったのに対し、TPU v6eの4チップ構成では「123秒」「111秒」だった。山口氏は「われわれがターゲットにしているような1億パラメータ程度のモデルだと、TPU v6eの方がだいたい3倍速い」と述べる。

　ただし、メモリ容量などは製品ごとに異なるため、モデルの要求に応じて選ぶ必要があるという。

H200とTPU v6eのパフォーマンス比較（出所：Turingの講演資料）

GPUメモリが壊れる、仮想マシンが起動しない……想定外も続々

　構築から約4カ月たった7月末時点で、計算基盤はおおむね安定して動いている。しかし山口氏は「運用してみないと分からないことは非常にたくさんある」と明かす。

　問題が起きやすいのは、GPU、ストレージ、ネットワーク、その上で動かしているソフトウェアの境目だ。起動手順の順番を誤ったせいで仮想マシンが立ち上がらない、GPUのメモリが物理的に壊れる、といった想定外の事態が相次いだ。

　そこで、監視ツール「New Relic」などで稼働データやログを細かく集め、素早く原因を切り分けられるようにした。社内チャットの「Slack」に調査用botを常駐させ、利用者が問いかけると、監視データを基に一次調査の結果を返す形にした。障害対応は手順書にまとめ、特定の担当者しか対応できない状態を避けている。

　山口氏は「GPUを増やすだけでは、特にハードウェアが絡むようなAIの学習はうまくいかないことが多い。データやストレージ、運用まで含めて、総合的に計算基盤を構築するのがよい」と総括した。Turingは、データを滞らせない地道な設計を武器に、完全自動運転の実現に向かっている。

横断特集「AIの置き場所」

　生成AIの本番活用では、「どのモデルを使うか」だけでなく、「どこで動かすか」「どう組み合わせるか」も重要だ。クラウドAPI、AI PC／ワークステーション、オンプレミス——最適解は1つではなく、データ、コスト、性能、レイテンシ、ガバナンス、運用力によって変わる。

　本特集は、「ローカルLLM」や「国産AI」を入口に、企業が生成AIの実行場所をどう選び、どこまで自社で持つべきか をITmediaのtoBメディア横断で整理する。手元で試す段階から、部門での実装・運用、企業AI基盤の選定、経営としての投資判断までを解きほぐす。

横断特集「AIの置き場所」