松浦淳（トゥモロー・ネット）

AIシステムを本番稼働させても、モデルの精度低下や処理負荷の増大、再学習の遅れによって、期待した性能を維持できなくなる可能性があります。AIを「作って終わり」にせず、継続的に改善しながら動かし続けるために何が必要なのでしょうか。

GPUを増やしても、AIの処理が高速になるとは限りません。ジョブの実行順序やデータ配置が適切でなければ、GPUは待機状態となり、性能を十分に引き出せなくなります。本稿では、「AIを止めない」ための技術として、ジョブスケーラーと分散ストレージの役割、そしてAIインフラに求められる設計の考え方を解説します。

AIインフラを適切に動作させるには、GPUやストレージなどの物理的な基盤を整えただけでは十分ではありません。なぜミドルウェアが重要になるのか、設計においては何を考慮すべきなのかを解説します。

AIサービスは、止まることなく動き続けることを前提に設計されます。ある瞬間にアクセスが数倍に跳ね上がることも珍しくありません。それを支える企業のインフラはどうあるべきか。従来型HPCと対比しつつ、Kubernetesなどを使った新しいインフラ運用について解説します。

AIシステムを安定的に稼働させる上で考慮すべきポイントの一つになるのが、GPUリソースとストレージをいかに最適化するかです。そのために必要になる仕組みや、運用上の工夫を解説します。

GPUの利用でサーバの消費電力と発熱が急激に増大し、冷却がAIインフラの重要な要素として浮上しています。AIサーバの発熱と冷却の基本を整理した上で、水冷や液浸といった新しい冷却技術の動向や、冷却方式を選択する際のポイントなどを解説します。

生成AIを自社環境で本格運用する際、最初に直面する可能性があるのが「インフラの壁」です。AIシステムの安定稼働や、性能確保のために押さえておくべきAIインフラの基本的な知識について、GPUサーバや冷却・電力設備、ストレージなどの観点から解説します。