AWS、自社開発MLトレーニングプロセッサ「Trainium」　EC2で提供へ：AWS re:Invent 2020

AWSが自社開発の機械学習トレーニングプロセッサ「Trainium」を発表した。2018年発表の「Inferentia」と平行して来年からEC2で提供する。EC2ではIntelの「Gaudi AI」ベースのインスタンスも提供予定だ。

[ITmedia] PC用表示関連情報

LINE

Hatena

　米Amazon.com傘下のAWSは12月1日（現地時間）、オンラインで開催中の年次イベント「AWS re:Invent 2020」で、自社開発の機械学習トレーニングプロセッサ「Trainium」を発表した。

Trainiumを紹介するAWSのアンディ・ジャシーCEO

　EC2インスタンスおよびAmazon内で利用可能になり、TensorFlow、PyTorch、MXNetをサポートする。来年提供開始の予定だ。

　2018年のre:inventで発表した「AWS Inferentia」に次ぐ2つ目の独自プロセッサになる。標準のAWS GPUインスタンスと比較して、スループットは30％高く、推論当たりのコストは45％低いとしている。

　同社はまた、米Intelと定形し、機械学習トレーニング用にHabanaのトレーニングプロセッサ「Gaudi AI」ベースのEC2インスタンスも2021年前半に提供する計画。

　Inferentiaも引き続き使うが、Inferentiaではトレーニングの範囲と頻度の上限になってしまう場合に、TrainiumとInferentiaを併用することを推奨している。