気付いたら「国産LLM」を作っていた──HPCエンジニアがAIの世界へ飛び込んだワケ 「GPU1万基以上持つ会社」での仕事

[PR／ITmedia]

　菱沼利彰さん。2024年からSB Intuitionsに入社したHPCエンジニアで、自他共に認める“コンピュータマニア”。「自宅のラックにはPCが十数台たまっています」（菱沼さん）。ついつい買ってしまう大量のPCを統合運用するため、管理システムを趣味として組むなど、そのコンピュータ愛はPC環境を聞くだけでも伝わってくる。

　「1台ずつ管理するのは面倒なので、クラウドのような中央集権型にしよう……などと考え出すと“始まる”んです。維持できないから自動化して統合システム化して……と、手間を減らすためにめちゃくちゃ手間をかけています。仕方ないんです。PCがあるんですから」

　大学時代にHPCの世界に足を踏み入れた菱沼さんは、新卒でスーパーコンピュータ（スパコン）ベンチャーのPEZY Computingに入社し、その後も数々の企業でその腕前を発揮。さまざまなシステム基盤を開発してきた。そんな菱沼さんは現在、国産LLM（大規模言語モデル）を開発するSB IntuitionsでLLMを使ったプロダクト開発の陣頭指揮を取っている。

　菱沼さんはなぜAIの世界へ飛び込むことを決めたのか。コンピュータ愛の芽生え、1万基以上のGPUから成るAI基盤との出会い、LLM領域への転身――菱沼さんの歩んできた道のりに迫る。

SB Intuitionsの菱沼利彰さん（技術開発部 部長）

60分の1秒ごとに点群判定　クラッシュしたPCに「不良品か？」

　菱沼さんがコンピューティング領域にのめり込んだきっかけは、大学時代にさかのぼる。ゲーム制作に挑戦するも、PCの処理の遅さに思わず声を上げたという菱沼さん。並列処理していないことが原因だと判明したため教授にアドバイスを求めると「線形代数と並列プログラミングが分かっとらん」と言われ、HPCの領域に手を伸ばした。

　「ピンポンゲームを作るために球の軌道や傾斜角などを真面目に計算して、1920×1080ピクセルの全ポイントを60分の1秒ごとに更新しようとしました。そしたらノートPCが一瞬で“お亡くなり”になり、『不良品か？』と思ってPCを買い替えても動かなくて。点群の位置関係を判定し続けるような巨大な行列計算なので、いま思い返すと解くのは不可能な問題でした」

　その後も、ゲームで海を描写するために流体計算を勉強し始めるなどHPCの世界に引き込まれていった菱沼さん。ゲームは結局完成しないまま、先輩の誘いを受けてスパコンベンチャーのPEZY Computingに籍を置き、スパコン世界ランキング「TOP500」で3位に輝いた「暁光」の開発に参画。さらに機械学習ベンチャーの科学計算総合研究所（現RICOS）で数学ライブラリの開発を手掛けた後、天進技術に転職してスマートフォン「OPPO」に搭載する画像処理ソフトウェアの開発に携わった。

　「多くの人が使うコアレイヤーのミドルウェア――フレームワークやライブラリなどを作るのが好きなんです。多くの人が利用するほど自分の価値が高まるように感じます。どれだけ使い倒してもらえるかが私のKPIですね。『全社的なインフラレイヤー』『その上で動くプラットフォーム』『共通ソフトウェア基盤』などにどれだけ関与できるかが、転職先を選ぶ基準でした」

2000基のGPUにつられて転職

　2023年10月、ソフトバンクが「2000基以上のNVIDIA製GPUを搭載した計算基盤を構築し、国産LLMを開発する」と発表した。圧倒的な物量に胸を躍らせた菱沼さんは転職を決意。2024年2月にソフトバンクに入社し、LLM開発を担う子会社のSB IntuitionsにHPCエンジニアとして出向した。

　「インフラの規模と投資額が転職の決定打になりました。数千台のマシンを数百人のエンジニアが利用し、何千人ものユーザーが使うアプリケーションを開発するとなれば基盤から生まれる価値が大きくなります。入社してみたら想像通りコンピュータが大量にあり、整えがいがあると奮い立ちました」

　SB Intuitionsは、日本語性能に強みを持つ国産LLM「Sarashina」を開発している。700億パラメーターのモデル「Sarashina2-70B」を2024年にオープンソースで公開。間髪入れずに4600億パラメーターのモデル「Sarashina2-8x70B」を公開した。同社の丹波廣寅社長は1兆パラメーター級のLLM開発を掲げ、ソフトバンクは計算基盤を拡充して支援する構えだ。最新のハイエンドGPU「NVIDIA DGX B200」を2025年7月に追加し、1万基以上のGPUを備える計算基盤に成長している。

SB Intuitionsの国産LLM開発の歩み《クリックで拡大》

　菱沼さんは一人目のHPCエンジニアとしてComputing PF部を立ち上げた。深層学習ライブラリの「PyTorch」などはNVIDIAが用意しているため、もっぱら「1万基以上のGPUをどのように使うか」に腐心しているという。

　チームごとにGPUリソースを割り振ったり、GPUのメンテナンススケジュールを練ったりと、人力でスケジュール最適化をしている。菱沼さんは「それこそスパコンでやる作業ですよね」と笑う。GPUの管理にも骨を折ったそうだ。

　「1万基ものGPUとなると人間の目で確認するのは不可能です。そのためAIエンジニアが作業する際、『GPUが1基壊れていても分からない』という問題がありました。縦軸を時間、横軸を稼働率にしてグラフ化しても1万本の線が引かれるので真っ黒になるだけです。自動でアラートを出す仕組みにするしかありません」

　PEZY Computingで暁光を開発した際は、当初は何千台ものコンピュータから送られてくるエラー通知を基に「何番と何番が壊れている」と紙に書いて交換を指示していた。「目視では無理だ」と悟った菱沼さんは、効率化ツールを自作。そうした経験がいまに生きているという。

　2024年は、計算基盤の火力を上げることよりも『火力を落とさないこと』に注力したと菱沼さんは振り返る。使われていないGPUリソースを減らし、全体の9割以上が稼働している状態を維持するために奮闘したのだ。

　「『NVIDIA A100 Tensor コア GPU』を1基入手するだけでも大変です。それがSB Intuitionsでは1万基以上のGPUと格闘するという経験を積めます。ただし台数が多過ぎて、インフラ整備に忙殺されてしまったことは少し悔しいです」

ソフトバンクが構築した「NVIDIA Blackwell GPU」搭載のAI計算基盤

LLMのプロダクト化に挑戦　ここでも「GPUをぜいたくに使える」

　2025年7月、菱沼さんに新たなミッションが与えられた。Sarashinaを用いたプロダクト開発を率いることになったのだ。菱沼さんは「使われないものは作らない」という姿勢を貫いており、HPC環境を構築する際もエンジニアやユーザーと密にコミュニケーションを取ってニーズをくみ上げては利用環境の改善に生かしてきた。多様な関係者の声をまとめて形にする力を買われて、HPCエンジニアながらプロダクト開発も任せられるに至った。

　AIをプロダクトとして顧客に提供する際、サービスの品質や単価はインフラとセットで考えなければならない。菱沼さんは「インフラの上にプロダクトをどのように載せるか、という課題に挑戦できる」と前向きに捉えている。

　インフラ視点で「いかに少ないGPUリソースで効率良くリクエストをさばけるか」を突き詰め、プロダクト視点で性能や運用性といった非機能要件を重視。機能要件やUI（ユーザーインタフェース）は、大規模なWebシステムに携わってきたチームメンバーと議論しながら作り込んでいるという。

左が菱沼さん。右は、チームメンバーの福地成彦さん（技術開発部 Agentic AIチーム リーダー）。主にAIプロダクトの検索機能を開発している。

　「LLMを開発し、それをシステムに組み込み、ユーザー体験をどのように作り上げるかを考える――しかもインフラや非機能要件も考慮しなければならず、さながら総合格闘技です。『ChatGPT』のように会話形式でLLMを使えるようになっただけでユーザー体験が一変しました。Sarashinaにチャット機能を付けるだけでは周回遅れなので、そこにどのようなアイデアを入れて新しいAIシステムをデザインするか検討しています」

　LLMを使い倒すアイデア自体は「LLMに次の質問を先読みさせて生成させておく」「待機中に他の作業をさせる」など既に幾つも出ている。しかしGPUを使った計算単価が高過ぎるため、余分なタスクに振り分けるリソースがなく断念する企業が多いと菱沼さんはにらんでおり、「私たちはGPUをぜいたくに使って挑戦的な遊びができます」と目を輝かせる。

　2025年8月現在、ソフトバンクの従業員約2万人がSarashinaを使ったチャットサービスを試験利用している。そこに「ひねった機能」を組み込んでは利用者の反応を得るなどして仮説検証を回している最中だ。

　検証で得た意見や判明した課題は、モデルやプロダクト開発を手掛けるチームに共有する。ユーザーのデータをセキュアに扱う環境を整え、統計的な手法で課題を抽出し、研究タスクに落とし込んでモデルの改善につなげるのだ。菱沼さんは「データフローが分断されていて、課題を共有しきれていない部分がありました」と指摘する。

　「どこのAIベンチャーも取り組んでいることですが、データフローや改善サイクルをどれだけ早く回せるかが勝負です。データサイエンティストを募集しながら、正面から愚直に取り組んでいます」

SB Intuitionsが見据えるプロダクト展開。「Sarashina mini」から先行して商用提供を始める予定《クリックで拡大》

「海外のAIベンダーと戦っていい」と本気で言っている

　Sarashinaから生まれたプロダクトを武器に、世界と戦おうしているSB Intuitions。国産LLMを開発して「AIの主権」を日本人の手で握る「ソブリンAI」の実現と、それをビジネスとして成立させるという難しいかじ取りが求められている。

　「ChatGPTと同じ土俵で戦っても、機能や価格を巡って消耗し合うだけです。どうすれば私たちのSarashinaが輝ける『戦場』を用意してあげられるかをずっと考えています。ゴールをどこに置くかを考えられるのは自社プロダクトの良いところですね」

　Sarashinaにまつわるインフラ、プロダクト、チームそれぞれに目を配る菱沼さんは、次のようなメッセージで取材を結んだ。

　「正面切って『海外のAIベンダーと戦っていい』と本気で言っている会社は国内でも珍しいと思います。正攻法で挑む姿勢がSB Intuitionsの面白いところですね。一緒に働くチームメンバーも募集中です。来たれ、最強！」