【IT】ソニー、ディープラーニングの学習速度で“世界最高速”　学習時間を短縮へ

田杉山脈 ★

ソニーは11月13日、ディープラーニングの学習速度で世界最高速（同社調べ）を達成したと発表した。ディープラーニングの認識精度向上のため、学習データのサイズやモデルのパラメータ数が増え、一度の学習に数週間～数カ月かかるケースも出ている中で、学習時間を短縮できる可能性を示したとしている。

　AI（人工知能）開発では、さまざまな試行錯誤をする必要があり、学習時間を短縮させることが重要になる。その手段として、複数のGPUを活用した分散学習が注目を集めていたが、GPU数が増えると「一度のデータ処理個数（バッチサイズ）が増えて学習が進まない」「GPU間のデータ送受信の処理遅延により学習速度が低下する」という課題があった。

　今回ソニーは、ディープラーニングのプログラムを生成する際のフレームワーク「コアライブラリ：Neural Network Libraries」と、産業技術総合研究所が構築・運用しているクラウド型計算システム「AI橋渡しクラウド」（ABCI）を活用した。

　学習の進行状況に応じて最適なバッチサイズや利用GPU数を調整する技術を用いることで、ABCIのような大規模なGPU環境でも学習が可能になったという。ABCIのシステム構成に適したデータ同期技術も開発し、GPU間の通信を高速化したとしている。

　これらの技術をNeural Network Librariesに実装し、ABCIの計算リソースを使って学習を行った。ソニーによれば、ディープラーニングの分散学習速度を計る際、一般的にベンチマークとして活用されている画像認識用データセット「ImageNet／ResNet-50」を用いたところ、約3.7分（最大2176基のGPU利用時）で学習が完了し、現状の世界最高速を達成したという（11月13日時点）。

　同社は「より短い試行錯誤時間でディープラーニングを用いた技術開発ができるようになることを示した」としている。研究成果はWeb上で公開している。
http://www.itmedia.co.jp/news/articles/1811/13/news108.html

【IT】ソニー、ディープラーニングの学習速度で“世界最高速” 学習時間を短縮へ

【IT】ソニー、ディープラーニングの学習速度で“世界最高速”　学習時間を短縮へ