NVIDIA H100を96基搭載　大規模計算基盤を自動運転ベンチャーが構築へ

» 2023年11月22日 13時46分公開

[松浦立樹，ITmedia]

　自動運転車の開発・販売に取り組むTuring（千葉県柏市）は11月22日、大規模言語モデル（LLM）などの専用計算基盤を構築すると発表した。2024年前半の稼働開始を目指す。

AI開発基盤「Gaggle-Cluster-1」を構築へ

　名前は「Gaggle-Cluster-1」。GPU「NVIDIA H100」を96基搭載し、総計算能力は190PFLOPS（ペタフロップス）となるという。同社は「国内の企業が専有するGPU計算基盤としては最大規模のGPUクラスタになる」とうたう。

　「多数のGPUサーバで構成しているだけでなく、サーバ間の通信帯域とストレージ速度を最大限に確保している。これにより、クラスタ全体を『単一の計算機』として大規模な学習タスクに最適化できる」（同社）。LLMなどの巨大なパラメータを持つモデルを高速かつ効率的に学習できるとしている。

　Turingはマルチモーダル（画像や言語など複数の入力ソースを扱えること）なLLMの活用により、標識や道路標示を理解できる能力などを持った自動運転車の実現を目指している。「完全自動運転の実現には人間と同等以上にこの世界を理解した自動運転AIが必要であると考えている」（同社）という。

Turingが開発する自動運転車のイメージ

生成AIに“視覚”与える学習ライブラリ、自動運転EVベンチャー公開　最大700億パラメータの学習済みモデルも
自動運転車を開発するTuringは、日本語などの複数言語対応のマルチモーダルな学習ライブラリ「Heron」を公開した。ソースコードは、研究・商用利用が可能。併せて、最大700億パラメータの学習済みモデル群なども公開している。
日本AI界の“スター”が作った自動運転車に乗ってみた　創業から1年半で市販化　彼らの「無謀な計画」とは
日本発の自動運転スタートアップが自社開発の運転支援システムを載せたクルマを試乗させてくれるというので、千葉県は柏の葉キャンパス駅に降り立った。
自動運転には「LLM」が必須？　国内AIベンチャーが“目や耳”を持った大規模言語モデルを開発へ
自動運転車の開発・販売に取り組むTuringは3月20日、大規模言語モデル（LLM）を独自開発すると発表した。同社はLLMを開発する理由として「完全自動運転を実現するため」としている。
大手クラウドはクラウド専用チップで戦う時代へ　各社がクラウド基盤に専用SoC、サーバにArm、AI処理に独自プロセッサを相次いで採用
AWS、Microsoft Azure、Google Cloudの3大クラウド事業者は本格的にクラウド専用チップで戦う時代に。各社におけるチップレベルの取り組みをまとめる。
大規模言語モデルを選択→数秒後にAzure上で試せる「Models as a Service」登場　従量課金制の推論API、ファインチューニングも可能。
米Microsofthが、オープンソースの大規模言語モデルをMicrosoft Azure上でマネージドサービスとしてすぐに試せる「Models as a Service」を提供すると発表しました。