NVIDIAは5月20日(米国太平洋夏時間)、Windowsに特化したAI推論ライブラリ「NVIDIA TensorRT for RTX」を開発したと発表した。Microsoftが提供するWindows 11向け「Windows ML」の一部としてプレビュー提供が始まっており、6月中にはNVIDIAからもSDK(開発者キット)が提供される予定だ。
TensorRT for RTXはWindows MLに組み込めることが特徴で、Windows MLの標準API(ライブラリ)である「DirectML」と比べると最大2倍のパフォーマンスを発揮できるという。Tensorコアを統合した全てのNVIDIA製GPU(「RTX」という名称が含まれているもの)に対応していることも特徴だ。
Windows MLの一部として提供されるため、推論エンジンを事前にコンパイルする必要がないことや、ライブラリを事前にダウンロードしておく必要がないことがメリットだ。
NVIDIAによるとTensorRT for RTXは一部の開発者に先行提供されており、フィードバックの結果も良好だという。開発者がより気軽にTensorRTを活用でき、一般ユーザーが気軽に生成AIのメリットを得られる手段として普及が進む可能性がある。
まるで“ファンミーティング”な熱気 NVIDIA基調講演でフアンCEOは何を語ったのか?
NVIDIAのAI特化型ミニPC「DGX Spark」、台湾の主要PCメーカーからも7月に発売
NVIDIAのAIチャットbot「ChatRTX」に複数の脆弱性/ARM版に最適化されたGoogle Chromeが登場
NVIDIAがPC上のデータを使うAIチャットbotツール「Chat with RTX」公開/AMD製CPUに複数の脆弱性Copyright © ITmedia, Inc. All Rights Reserved.