1秒の遅延が損失に――クラウド中央処理の課題3つ　解決策は「エッジAI」　システム構築のポイントは？

» 2023年01月10日 10時00分公開

[PR／ITmedia]

　政府が提唱する日本の未来像「Society 5.0」では、“AIが活躍する場所”が身近になるかもしれない。そもそもSociety 5.0で描くのは、ビジネスシーンはもとより、農業や交通、医療、行政といったあらゆる場面でデータを活用し、新しい価値の創造につなげる社会だ。

　そんなSociety 5.0を実現する重要な要素が、IoTとAIだ。IoTに内蔵されたセンサーがさまざまな情報を可視化し、大量のデータが生み出される。それらをAIで分析し、得た知見を現実世界にフィードバックすることでビジネスの成長や社会課題の解決を目指す。

　こうしたデータ活用は一般的に、IoT化したエッジ環境で得たデータをクラウドに送信してからAIで処理する。しかしこれでは、処理の遅延や情報セキュリティ上の観点で課題が残る。

　その解決策として、エッジ環境でAI処理をする「エッジAI」を活用する動きが広がっている。AIが私たち利用者の身近な場所で活躍するイメージだ。そのメリットはどこにあるのか。自社のイノベーションセンターでエッジAIの研究を進めるエヌ・ティ・ティ・コミュニケーションズ（以下、NTT Com）を取材した。

AI活用はビジネスの潮流　「エッジが絡むともっと面白い」

　NTT Comのイノベーションセンターは、その立ち位置自体が未来志向の部署だ。新しいテクノロジーを積極的に取り入れて試し、中長期的な視点で次世代の事業創出に挑戦する「出島」のような部署といえる。新規事業や技術開発の役割を担っており、ここで開発したソリューションを社内の事業部に展開することで、ビジネスの“種”を育むのがミッションだ。

エヌ・ティ・ティ・コミュニケーションズの野山瑛哲氏（イノベーションセンターテクノロジー部門 Software Engineer）

　エッジAIの研究も、NTT Comのイノベーションセンターで活躍する2人のエンジニアが「それぞれの得意分野を生かせばAIシステムの課題を解決できる」と志を共にしたことでスタートした。それがハイブリッドクラウドを専門にする鈴ヶ嶺聡哲氏（テクノロジー部門 Software Engineer）と、仮想化環境やコンテナ管理システム「Kubernetes」を研究している野山瑛哲氏（テクノロジー部門 Software Engineer）だ。

　「AI活用の文脈はビジネスの潮流です。そこにエッジが絡むともっと面白くなるという期待感があります。多種多様なエッジ環境にAIを掛け合わせることで、バラエティ豊かな使い方が広がる期待感があります」（野山氏）

「エッジのデータ→クラウドで中央処理」にある3つの課題

　野山氏は、エッジ環境で取得したデータをクラウドで中央処理するITシステムの課題があると指摘する。その解決策としてエッジAIに期待を寄せているのだ。ここではエッジデバイスにAIを実装する、もしくはエッジに近い場所に専用サーバなどを設置してAI処理するケースを想定して、エッジAIのメリットを具体的に見ていく。

左：クラウドで中央処理するシステムの課題、右：エッジAIのメリット（クリックで画像拡大）

リアルタイム性：1秒の遅延が損失につながる

　1つ目は、エッジからクラウドにデータを送ることでタイムロスが発生し、処理に遅延が発生する課題だ。データをクラウドに送らず、エッジでAI処理をすればデータの送信時間を短縮でき、低遅延またはリアルタイム性を確保できる。

エヌ・ティ・ティ・コミュニケーションズの鈴ヶ嶺聡哲氏（イノベーションセンターテクノロジー部門 Software Engineer）

　例えばスマートシティーなどで重要になる、監視カメラを使った人流解析や緊急性が求められる防犯機能では、データ処理の遅延が致命的な欠点になりかねない。また、工場においてAIカメラで製品の品質検査をする場合、高速に流れる製造ラインでは1秒の遅延が次の工程に大きく影響しビジネスの損失につながると鈴ヶ嶺氏は説明する。その他、ダウンタイムを限りなくゼロに近づける必要がある医療現場や社会インフラでも低遅延が鍵になる。

情報セキュリティ：データの外部送信ができないケースも

　2つ目は、情報セキュリティ上の課題だ。例えば病院関係のデータを扱う場合、プライバシー保護の観点から外部への送信は慎重になる。クラウド利用に厳しい要件を課しているケースも多い。

　エッジAIならデータをローカル環境で保存・処理するため重要なデータを外部に送信せずに済む。クラウドからの情報漏えいといった事故の防止にもつながる。

エネルギー効率：エッジ→クラウドの通信が増えると消費電力増加に

　3つ目はエネルギー効率に関する課題だ。多数のエッジデバイスから直接クラウドにデータを送信すると、通信トラフィックや消費電力が増える。「温室効果ガス削減が企業のミッションになっているいま、無視できない要素です」と鈴ヶ嶺氏は話す。

エッジAIの課題　AIモデルの変化に対応できる基盤が必要

　エッジAIのメリットを挙げると、多くの問題を解決しそうに思える。しかしエッジAIにも課題があると鈴ヶ嶺氏は話す。

　1つ目の課題は、エッジデバイスを含むオンプレミスの環境が複雑化することだ。各機器の死活監視や、AIの稼働に関わるCPUやメモリの使用量を把握するといった運用管理が煩雑になる。さらにデバイスごとに異なる認証管理も手間がかかる。

　2つ目の課題は、エッジAIの基盤構築に関するものだ。AIモデルの学習や推論の開発を効率化する基盤には、高性能なGPUやKubernetesに代表されるコンテナ環境の整備が不可欠になる。一度構築すれば柔軟性が高いAIシステムになる一方で、構築の難しさや、複数デバイスにおけるKubernetesクラスタの管理コストの面で課題が残る。

　3つ目の課題は、AIモデルを適切に更新するといった運用の手間だ。季節やユーザー動向が変わると取得したデータの傾向も変わるため、同じAIモデルを使い回せなくなる。それでなくてもAIの精度は日進月歩しているため、AIモデルの変化に対応できるシステムを作る必要がある。

「エッジAIの管理が複雑」を解決するNTT Comのシステム構成

　エッジAIの課題を解決するためにNTT Comは、Microsoftのハイブリッドクラウド統合管理ツール「Azure Arc」と、検証済みハードウェアを使える「Azure Stack HCI」を活用したシステムを構築した。

　ここでは監視カメラの映像をエッジAIで解析するシーンを想定して、Azure Arcのシステム構成を解説する。まず「Edge層」では、監視カメラに接続した機械学習ツール「Azure Machine Learning」でAI処理する。そのデータは「On-Premise層」にあるAzure Stack HCIのサーバに蓄積し、外部には送信しない。「Cloud層」では一連の管理のみ実行する流れだ。

　Azure Arcは、エッジやオンプレミスの環境とクラウド環境をAzureの統一コンソール「Microsoft Azure Portal」で一元管理可能だ。複雑化したKubernetesのクラスタを管理しやすく、さらに稼働状況の監視や認証管理を包括できる。そしてAzure Machine Learningは、AIモデルのステータス確認や更新をまとめて管理できて、活用しやすいと野山氏は説明する。

NTT Comが構築したエッジAIシステムの構成図（クリックで画像拡大）

ハイブリッドクラウドソリューション「Azure Stack HCI」　エッジ環境に選んだワケ

　NTT ComではエッジAI管理にハイブリッドクラウドソリューションである「Azure Stack HCI」と「Azure Stack Edge」を採用した。これは端的にいうと、エッジ環境でもクラウドサービスと同様のUI/UX、マネージドサービスを利用できるソリューションだ。

　通常、AIを動かすにはGPUなどのハードウェアを購入して検証するコストがかかる。しかしAzure Stack Edgeは、Azure Portalから申請すればMicrosoftが検証済みのハードウェアをリースでき、料金もクラウド使用料と合算請求のため使いやすい。身軽に使えるため、エッジ環境やテスト用途に適していると野山氏は話す。

　また、Azure Stack HCIはシングルノードとして使う他、複数のサーバを接続するクラスタ構成にも対応しており、NTT Comのシステム構成でいうEdge層とOn-Premise層の両方で活用できた。サーバやストレージをまとめたHCIなので、コストパフォーマンスが高いのが特長だ。

Azure Stack HCIの強力なパートナー＝デル・テクノロジーズ

　このAzure Stack HCIはソフトウェア部分をMicrosoftが担当し、ハードウェア部分を各ベンダーが提供している。中でも強力なパートナーがデル・テクノロジーズだ。NTT Comも、エッジAIの研究にあたってデル・テクノロジーズに協力を求めた。

　「Azure Stack製品について、デル・テクノロジーズの連携の強さを高く評価しました。サポート体制が盤石で、ハードウェアの迅速な調達や構築作業の段階で密に支援してもらい助かりました」（鈴ヶ嶺氏）

　「デル・テクノロジーズが提供するハードウェアと、Azure Stack HCIのソフトウェアをWindows Admin Centerのダッシュボードで一元的に管理できる拡張機能『Dell OpenManage Integration』などの仕組みがとても有用でした。また電源などサーバ関係を一括で管理できるデル・テクノロジーズの機能『iDRAC』（アイドラック）も便利でした」（野山氏）

先行事例が少ない取り組み　トライ・アンド・エラーで成功をつかんだ

　NTT Comが取り組んだエッジAIシステムの構想から実装は2022年7月から約3カ月で終了した。現在は他の事業部に成果を展開して、新たなビジネスへの応用を探っている。社内からも好評で、イノベーションセンターとしてもシステムの構築スケジュール短縮という点で良好な手応えを得た。

　「これまでオンプレミスの機器にGPUを導入したりKubernetes環境の構築を行ったりするにはとても時間がかかりました。しかしAzure Stack HCIのように管理しやすい仕組みを取り入れることで、構築や検証のスケジュールを短縮できると実証できました」（鈴ヶ嶺氏）

　大きな成果を上げた取り組みになったが、エッジAIで処理したデータをオンプレミスに残しつつ、全てクラウドで管理するという先行事例が少なく苦労もしたそうだ。「技術ドキュメントを読みあさったり、トライ・アンド・エラーを繰り返したりしました」（野山氏）。

　ここまでNTT Comの取り組みを通してエッジAIの可能性をお伝えしてきた。実は、エッジAIのメリットとそれを生かすシステム構成はまだまだ奥が深い。エッジAIの活用に興味がある、自社のビジネスに取り入れてみたいと考えている企業はぜひデル・テクノロジーズに相談してはいかがだろうか。良きパートナーとして、AI活用を強力にサポートしてくれるはずだ。

「Dell de AI（でるであい）」からのおすすめ記事一覧

Dell de AI（でるであい）とは──

「AIをビジネスで活用する」──そう言い表すのは簡単です。しかし、組織にとって本当に価値のあるアクションへ落とし込むには、考えるべきことがあまりに多すぎます。誰に相談すればいいのか、どうすれば成果を生み出せるのか。「Dell de AI “デル邂逅（であい）”」は、そんな悩みを持つ企業や組織にポジティブな出会いや思いもよらぬうれしい発見──「Serendipity（セレンディピティ）」が生まれることを目指した情報発信ポータル（https://www.itmedia.co.jp/news/special/bz211007/）です。

おすすめ（1）AI導入時の課題を解決するには