さくら、データセンターに「NVIDIA H100」を2000基整備　“生成AI需要増”で計画を前倒し

» 2024年08月01日 19時36分公開

　さくらインターネットは8月1日、北海道にある石狩データセンターに「NVIDIA H100 Tensor コア GPU」を2016基整備したと発表した。これにより、同社が提供する生成AI向けクラウドサービス「高火力」の計算能力は、2.0EFLOPS（エクサフロップス、1EFLOPS＝1PFLOPSの1000倍）を達成したという。

石狩データセンターにおける「NVIDIA H100 Tensor コア GPU」

　高火力は、大規模言語モデルなど生成AIの利用を想定したクラウドサービス。当初は2025年3月末までに整備する予定だったが、引き合いが多かったため予定よりも前倒しで計画を進めたという。

さくらインターネットが発表している高火力の整備計画

　27年12月末までには、約8000基のGPUを整備し、16.9EFLOPSの計算能力の達成を目指す。

生成AI向けクラウド「高火力」　さくらが1月31日から提供　「NVIDIA H100」を搭載
さくらインターネットは、生成AI向けクラウドサービス「高火力」を1月31日から提供すると発表した。
NVIDIA製GPUの数十倍速い？　次々に出てくる「AI専用チップ」とは何者か　識者に聞く高速化の仕組み
スタートアップ企業Etchedが発表した「Sohu」が、AI業界に新たな波紋を投げかけている。トランスフォーマーモデルに特化したこのAI専用チップは、NVIDIAのH100 GPUと比較して20倍高速かつ低コストで動作すると主張しているからだ。
KDDIら、アジア最大規模のAI向けデータセンター構築へ　シャープの堺工場跡地を活用
KDDIは、シャープらと共にアジア最大規模のAI向けデータセンター構築に向けた協議を始めると発表した。
生成AIでGPUがいらなくなる？　業界を揺るがす「1ビットLLM」とは何か、識者に聞いた
米Microsoftの研究チームが発表した「BitNet」、通称「1bit LLM」と呼ばれる論文が波紋を呼んでいる。これまで必須だと思われていたGPUが不要で、CPUでもLLMが動作することを示唆している。そもそも“1bit”とは何が1bitなのか、どうして1bitになるとGPUが不要になるのか、AIソリューションの開発・提供を行うLaboro.AIの椎橋徹夫CEOに聞いた。
防衛省が国産クラウド導入　さくらインターネットと7.5億円規模の契約
防衛省が約7億5000万円でクラウドサービス「さくらのクラウド」を導入する。防衛装備庁が実施する、防衛産業に関するサプライチェーンの調査基盤として採用が決まったという。