ソニー、ディープラーニングの学習速度で“世界最高速” 学習時間を短縮へ
ソニーは、ディープラーニングの学習速度で世界最高速を達成したと発表。学習時間を短縮できる可能性を示したとしている。
ソニーは11月13日、ディープラーニングの学習速度で世界最高速(同社調べ)を達成したと発表した。ディープラーニングの認識精度向上のため、学習データのサイズやモデルのパラメータ数が増え、一度の学習に数週間〜数カ月かかるケースも出ている中で、学習時間を短縮できる可能性を示したとしている。
AI(人工知能)開発では、さまざまな試行錯誤をする必要があり、学習時間を短縮させることが重要になる。その手段として、複数のGPUを活用した分散学習が注目を集めていたが、GPU数が増えると「一度のデータ処理個数(バッチサイズ)が増えて学習が進まない」「GPU間のデータ送受信の処理遅延により学習速度が低下する」という課題があった。
今回ソニーは、ディープラーニングのプログラムを生成する際のフレームワーク「コアライブラリ:Neural Network Libraries」と、産業技術総合研究所が構築・運用しているクラウド型計算システム「AI橋渡しクラウド」(ABCI)を活用した。
学習の進行状況に応じて最適なバッチサイズや利用GPU数を調整する技術を用いることで、ABCIのような大規模なGPU環境でも学習が可能になったという。ABCIのシステム構成に適したデータ同期技術も開発し、GPU間の通信を高速化したとしている。
これらの技術をNeural Network Librariesに実装し、ABCIの計算リソースを使って学習を行った。ソニーによれば、ディープラーニングの分散学習速度を計る際、一般的にベンチマークとして活用されている画像認識用データセット「ImageNet/ResNet-50」を用いたところ、約3.7分(最大2176基のGPU利用時)で学習が完了し、現状の世界最高速を達成したという(11月13日時点)。
同社は「より短い試行錯誤時間でディープラーニングを用いた技術開発ができるようになることを示した」としている。研究成果はWeb上で公開している。
関連記事
- コーディング不要のディープラーニング開発ツール、ソニーが無償提供
コーディング不要で、ディープラーニングのプログラムを生成できるソフトウェア「Neural Network Console」を、ソニーが無償提供。 - ソニー、ディープラーニングのコアライブラリをオープンソースで公開
ソニーがディープラーニングのコアライブラリを公開。開発者・研究者に利用してもらいたいとしている。 - 年収180%アップも 「データサイエンティスト」注目される理由 専門家が”必要なスキル”解説
AIやIoTがトレンドになり、大規模データを分析できる「データサイエンティスト」に注目が集まっている。そもそも、データサイエンティストとは何をする人で、どんなスキルが求められるのか。 - 「Splatoon 2」をディープラーニングで攻略してみなイカ? 2018(前編)
「ガチエリアは『塗り』と『キル』どちらが重要なのか」「編成事故は存在するのか」など、人気ゲーム「Splatoon 2」のファンの間で感覚的にいわれていることをデータサイエンティストが検証。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.