Red Hat、“MIT発のAI企業”買収で「ハイブリッドクラウドAI」推進を強化 AI開発のコストを抑制:技術トレンド
Red Hatは2024年11月22日、Neural Magicを買収したと発表した。「ハイブリッドクラウドAI」を推進し、エンドユーザー企業のAI開発コスト抑制やスキル障壁を解消する狙いがある。
Red Hatは2024年11月22日(現地時間)、Neural Magicの買収を発表した。2018年にマサチューセッツ工科大学(MIT)からスピンアウトしたスタートアップ企業Neural Magicは、推論パフォーマンス最適化の研究開発に特化した組織で、「LLM Compressor」などの技術を提供する。
Red Hatは「Red Hat Enterprise Linux AI」や「Red Hat OpenShift AI」などのAIプラットフォームに、同社がコミットする「vLLM」プロジェクトの成果を取り入れ、ハイブリッドクラウドを前提としたAI導入におけるコストとスキルの障壁を下げる取り組みを進める。
ハイブリッドクラウドAIのコストとスキル障壁を解消 「AIのRed Hat」へ
Neural Magicは2018年にMITからスピンアウトした企業で、深層学習のための性能の高い推論ソフトウェアを構築することを目標にしている。特にモデル最適化の分野で進んだ研究を実施し、LLM Compressor(最先端のスパース性と量子化アルゴリズムでLLMを最適化する統合ライブラリ)を構築し、vLLMでデプロイ可能な事前最適化モデルのリポジトリーを維持している。
同社の専門知識をRed HatのハイブリッドクラウドAI技術に統合することで、顧客が独自のAI戦略を構築するための柔軟性を提供するとしており、特にオープンモデルサービングを支援するvLLMプロジェクトへの貢献を強化して、エンドユーザー企業の生成AIの活用を推進する狙いがある。
vLLMプロジェクトは高速なLLM推論を実行するために、コミュニティ主導で開発が進められているオープンソースライブラリだ。アテンションキーと値の管理にPagedAttentionというアルゴリズムを採用する点が特徴とされる。プロジェクトのリリースノートによればAIモデルのアーキテクチャを変更することなく「HuggingFace Transformers」よりも最大で24倍高いスループットを実現するとしており、小規模な研究環境でも手ごろな価格でLLMを利用できるようになる。
Red HatはvLLMプロジェクトにおけるNeural Magicのリーダーシップを同社が提供するハイブリッドクラウドAIの技術ポートフォリオに組み込むことで、組織独自のニーズを満たすAI戦略を構築できるとしている。
この発表に当たり、Neural MagicのCEOであるブライアン・スティーブンス氏は次のように述べている。
「オープンソースは、コミュニティの協力によってイノベーションを促進することが度々証明されています。Neural Magic では、オープンかつクロスプラットフォームで超効率的なLLMサービング機能を構築するという唯一のミッションのもと、AI パフォーマンスエンジニアリングにおける業界トップクラスの人材を集めてきました。Red Hatに加わることは、文化的に相性が良いだけでなく、AI変革ジャーニーにおいて大小さまざまな企業に利益をもたらすでしょう」
Red Hatの社長兼CEOであるマット・ヒックス氏は次のように述べている。
「AIワークロードは、お客様のデータがハイブリッドクラウド上のどこに存在しようとも実行される必要があるため、柔軟で標準化されたオープンなプラットフォームとツールが必要不可欠です。これにより、企業は独自の運用上およびデータ上のニーズに最適な環境とリソース、アーキテクチャを選択できるようになります。ハイブリッドクラウドに特化したAIポートフォリオをNeural Magicの画期的なAIイノベーションで補完でき、オープンソースの『Red Hat』だけでなく、AIの『Red Hat』でもあるという私たちの取り組みをさらに推進できることをうれしく思います」
Red Hatは今回の買収により、「Red Hat Enterprise Linux AI」(RHEL AI)や「Red Hat OpenShift AI」などのプラットフォーム、オープンソースAIコミュニティープロジェクト「InstructLab」を強化し、AIのコストやスキルの障壁を下げることで顧客を支援していく方針だ。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
Neat(ニート)でオンライン会議の課題を解消 ミツカングループの取り組み
ミツカングループはオンライン会議における拠点間コミュニケーションの課題を解決するため、コミュニケーションデバイスを刷新した。対面に近い自然な対話が可能になったという。
「Dell AI Factory」のラインアップを拡張 AI処理の「熱」「CO2排出」を抑制
Dell Technologiesは「Dell AI Factory」の拡張を発表した。AIワークロード向けの最新サーバやデータ管理ソリューション、専門サービスを提供する。
