米Metaは4月10日(現地時間)、AIトレーニング高速化のためのカスタムチップ「MTIA」(Meta Training and Inference Accelerator)の第2世代を発表した。
昨年5月に発表したMTIAは、MetaのFacebookやInstagramでのランキングおよび広告レコメンデーション機能などで最適に動作するよう設計されている。AIのトレーニングを効率化し、推論を容易にするのが目的だ。
第2世代のMTIAは、先代のコンピューティング帯域幅とメモリ帯域幅を2倍以上に拡張し、「ユーザーに高品質の推奨を提供するランキングと推奨モデルを効率的に提供するよう設計されている」という。初期のテスト結果では、4つの主要モデルで先代と比較して性能が3倍向上した。
一般的なGPUより大容量のSRAMを使うことでバッチサイズが制限されていても十分なコンピューティングを提供できる。
ラックシステムも開発し、ソフトウェアも改良。すでに16のリージョンのデータセンターでMTIAチップの実稼働モデルに移行した。これにより、より集中的なAIワークロードにコンピューティング能力を投資できるようになったとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
Special
PR