「富岳」で大規模言語モデル開発へ　分散並列学習法を研究　成果はGitHubなどで公開予定

» 2023年05月23日 12時45分公開

[ITmedia]

　理化学研究所と富士通、東京工業大学、東北大学は5月22日、スーパーコンピュータ「富岳」で大規模言語モデルの分散並列学習手法の研究を始めると発表した。

富岳

　大量のデータを効率的に処理する計算資源を確保するために富岳を活用する。研究は東京工業大学が全体総括を担当し、東北大学が学習用データの収集、理化学研究所が並列化や通信の高速化、大規模言語モデルの高速化は東北大学以外が担う。

　研究期間は24日から2024年3月31日まで。研究結果は24年度にGitHubやHugging Faceで公開する予定。今後は名古屋大学やサイバーエージェントとの連携も検討するという。

スパコン世界ランキング発表　「富岳」は2部門で7連覇
富士通は、理化学研究所（理研）と共同開発したスーパーコンピュータ「富岳」が世界のスーパーコンピュータの性能ランキングの2部門で、7期連続1位になったと発表した。
東工大のスパコン、リニューアルへ　国内2位の性能に
東京工業大学が次世代スーパーコンピュータ「TSUBAME4.0」の構築を始める。国内2位の理論演算性能になる見込み。来春完成をめどに日本ヒューレット・パッカード及びNVIDIAと構築を進める。
ディープラーニングが激速に　NVIDIAの牙城を崩せるか？　SambaNovaに聞く
ディープラーニングにおいて、NVIDIAのGPUは欠かせない。ディープラーニングにおいてはNVIDIAのGPUに勝るソリューションは存在しないというのが常識だった。しかし今、この常識に風穴を開けようとするシリコンバレーのスタートアップがある。SambaNova Systems社だ。
気象庁が新スパコン導入、性能は現行機2倍　「線状降水帯」の予測精度向上に
気象庁が「線状降水帯予測スーパーコンピュータ」を3月1日から稼働すると発表した。現行機の2倍の計算能力を持ち、予測精度向上に活用する。