生成AIをはじめとしたAI活用及びAIモデルの構築が企業の間で進むにつれて、洗練された開発手法が求められている。こうした文脈に沿って、今後重要性が増すMLOps/MLSecOpsのメリットを紹介する。
この記事は会員限定です。会員登録すると全てご覧いただけます。
職場におけるAIの影響について多くが語られているものの、ML(機械学習)を含むAIの業界全体はまだ発展途上にある。
ソフトウェアプラットフォームであるDockerのスコット・ジョンストン氏(CEO)は、ソフトウェア企業であるJFrogが2024年の秋に開催した会議「SwampUp 2024」において、次のように述べた。
「生成AIは、組織がデータを作成および共有、保存する方法を変えるだけでなく、連携に関する考え方にも変革をもたらすだろう」
しかし、ソフトウェアやアプリ開発を社内で実施するようになった際に、企業がDevOpsやDevSecOpsを導入したのと同様に、AI開発のセキュリティを確保するためにも同様のアプローチが必要とされる。このような背景が、MLOpsやMLSecOpsの台頭につながっている。
Googleによると(注1)、MLOpsとは、MLのライフサイクルを管理し、開発と運用の間に存在するギャップを埋める目的で実施される実践やツールのセットを指すという。MLOpsがなければ、AIに依存するアプリケーションにおいてエラーが増加し、効率が低下する。また、チーム間で効果的に連携できなくなる恐れがある。
MLSecOpsは、MLの開発にセキュリティおよびプライバシー対策を組み込む取り組みを指す。これは、MLを含むAIのプロセスがガバナンスおよび規制、コンプライアンスの基準を満たすために重要な役割を果たす。
JFrogでMLOpsに関連する業務を担当するユヴァル・フェルンバッハ氏(最高技術責任者)によると、AIの中でも特に生成AIを開発している組織は、AIモデルを構築する際にMLOpsおよびMLSecOpsを導入する必要があるという。
フェルンバッハ氏は「MLOpsはDevOpsの一分野であり、企業は自社のDevOpsのプロセスがMLのパイプラインをどのようにカバーできるかを考える必要がある」と述べた。
本番環境でMLを運用している企業や、AIに依存している企業は、これらの技術を最適に保護する方法を考える必要がある。しかし、今日においてMLOpsを活用している組織はほとんど存在しない。
「技術的にはいまだ発展途上だが、企業が組織内でMLの効果を得るための唯一の方法がMLOpsの導入である」(フェルンバッハ氏)
その理由は、アプリケーション内でMLを含むAIを構築するプロセスが複雑であるためだ。
MLのアプリケーションは複雑な要素で構成されている。例えば、MLモデルは質の高いデータに依存しており、高度なデータの準備を必要とする。また、MLにはモデルのトレーニングおよび監視、調整も求められる。さらに、MLを含むAIのアプリケーションには、データサイエンティストおよびエンジニア、クラウド開発者、セキュリティチームによる連携が不可欠だ。
サイバーセキュリティ事業を営むQualysのディリップ・バクワニ氏(最高技術責任者)は、2024年10月に開催されたセキュリティカンファレンス「QSC Americas」の対談で「MLモデルのトレーニングには多くの微妙な要素が関わっており、仮に誤りがあれば、後になって組織に悪影響を及ぼす恐れがある」と指摘した。
一例として、航空企業であるAir Canadaのチャットbotが現実と異なる情報を生成し、乗客に誤った返金情報を提供した。裁判所の判決によると、モデルに入力された情報に対する責任は企業にあるとして(注2)、Air Canadaが責任を負うことになった。
「大規模言語モデル(LLM)を導入する前に、適切なガードレールを設ける必要がある」(バクワニ氏)
AIシステムに対する可視性の確保も必須だ。これがないと、AIモデルが生成する情報を組織が制御できなくなるリスクがある。仮に、企業のさまざまな部門が監視のない環境でデータを追加していくと、脆弱(ぜいじゃく)性やリスクが散在するシステムを構築することになってしまう。
MLOpsとMLSecOpsはガードレールとして機能することを目的としており、DevOpsチームと連携して運用されるべきである。
「AIモデルの構築や展開において共通点がある。それらを別々のものとして考えるのではなく、より統一的な方法で捉える必要がある」(バクワニ氏)
ソフトウェアが本番稼働する前に、開発者がセキュリティチェックを実施し、セキュリティゲートを確認するのと同様に、MLのエンジニアも同じような手順を踏む必要がある。これらのチェックに基づき、別の気付きを得られる可能性もある。
「場合によっては、従来型のMLやディープラーニングに戻らざるを得ないと気が付くかもしれない。LLMが自社のニーズに対する最適な解決策とは限らない」(バクワニ氏)
組織は、従来型のMLと生成AIを組み合わせ、最終的には次に登場する技術も取り入れることになるだろう。しかし、課題は単に技術を導入することではなく、使用するモデルが安全であり、新たなリスクを生み出さないようにすることだ。
MLOpsとMLSecOpsの導入により、エンジニアとセキュリティチームが連携し、組織内の特定のユースケースに合わせて設計されたモデルをトレーニングできるようになる。また、モデルに脆弱性を生じさせないために必要なガバナンスを提供することも可能になるだろう。
(注1)MLOps(Google Cloud)
(注2)What Air Canada Lost In ‘Remarkable’ Lying AI Chatbot Case(Forbes)
© Industry Dive. All rights reserved.