その生成AIの使い方、情報漏えいにつながるかも？ 忍び寄る新たなリスクに備えよ

PR／ITmedia

PR

知らぬ間に忍び寄る「生成AI特有のセキュリティリスク」

　生成AIを利用して、業務効率や収益性の向上を図る企業が増えている。独自の生成AIアプリケーションを開発して業務に適用する事例も出てきた。

　しかし、生成AIのビジネス利用が進む一方で生成AI特有のセキュリティリスクも顕在化している。近年のサイバー脅威の高まりに対応するために多くの企業がセキュリティ対策に力を入れているが、生成AIには従来の情報システムにはない特有のリスクが数多く存在し、現時点では対策が後回しになったまま導入だけが先行している。

日立ソリューションズの斎藤海渡氏（セキュリティコンサルティング部 セキュリティコンサルタント）

　「生成AI特有のセキュリティリスクはどのようなものがあるのか、大半の企業は正確に把握できずにいます。そのため、社員に生成AI利用の自由をどの程度与えたらよいのか分からない状況です。社員もどこまで自由に使ってよいのか判断が付かないので、結果的に生成AIの活用における障壁になっています」

　こう語るのは、日立ソリューションズの斎藤海渡氏だ。セキュリティリスクの一つに情報漏えいリスクがある。原因としては「悪意のある攻撃者が情報を窃取する」というイメージが強いが、生成AIの利用が広がると「オーバーシェアリング」（過剰共有）の問題が生じる。オーバーシェアリングとは、適切な範囲のユーザーに共有する情報を不適切な範囲まで共有してしまうことだ。生成AIにおけるオーバーシェアリングによって、それまでアクセス権を厳格に管理していた機密情報が、本来アクセス権限を持つ必要のないユーザーの目に触れてしまい、ユーザーが機密情報を意図せずに漏えいさせてしまうリスクがある。

日立ソリューションズの池内丈人氏（マネージドセキュリティサービス部 チーフセキュリティアナリスト）

　こうした問題が生じるメカニズムについて、日立ソリューションズの池内丈人氏は次のように説明する。

　「生成AIは学習したデータの機密度を自身で判断できないため、どうしてもオーバーシェアリングによる情報漏えいの懸念が付いて回ります。生成AIは、人間から与えられた質問にあらゆる手を尽くして何とか答えようとする特性があります。これを逆手に取って、本来は出力を禁じられている機密情報を巧妙に引き出すプロンプトを与えて情報を窃取したり、開発者が意図していない動作を誘発したりする『プロンプトインジェクション』のリスクも存在します」

生成AIのリスク、脆弱性の対策を3ステップで可視化

　日立ソリューションズは、これまで長きにわたってセキュリティ分野においてさまざまなコンサルティングサービスや診断サービスを提供してきた。サービスを利用する企業から近年、生成AI特有のセキュリティリスクに関する相談を受けることが増えたという。

　顧客の声に応えるために、同社は「生成AIの利用に関するセキュリティコンサルティングサービス」を提供している。

　まず、生成AI利用時のセキュリティリスクに対応するため、ルールやポリシーを定める。次に、ルールやポリシーが現場でしっかり認知・順守されるように、生成AI利用のガイドラインを策定する。ルールやガイドラインの策定に当たっては、企業が生成AIをどのように使い、どのようなリスクが存在するかを可視化する「リスクアセスメント」から実施することも可能だ。「ルール／ポリシー策定」「ガイドライン策定」「アセスメント」の3ステップを踏むことによって、生成AIのセキュアな利用環境づくりをサポートしている。

　「生成AIの進化のスピードは極めて速いため、3ステップを実施した後も次々と新たなリスクが発生します。必要に応じて3ステップのサイクルを繰り返し実施して、生成AIを利用する環境の安全性を維持します」（斎藤氏）

　すでにこのサービスを利用して、生成AIの安全な利用環境の整備に取り組んでいる企業は多い。ある企業は生成AIに特化したセキュリティリスクに対応するために同サービスを利用したものの、日立ソリューションズからの指摘を受けて生成AI以前にクラウドサービスの利用に伴うリスクの見直しも行った。

　「生成AIはクラウドサービスの一種ですから、そもそもクラウドサービスのアカウント管理や脆弱（ぜいじゃく）性管理がきちんとできていなければ、生成AI特有のリスクにいくら対応してもセキュリティ対策にはなりません。当社はクラウドセキュリティの知見も豊富に有しているので、生成AI以外のリスクにも幅広く対応できます」（斎藤氏）

　これまで日立ソリューションズは500社以上にセキュリティ対策のコンサルティングサービスを提供してきた。そこで培った知見やノウハウを生成AIの分野にも適用するとともに、同社や日立グループ内で進めてきた生成AI利用の経験も反映させることで高品質のコンサルティングサービスを提供している。

　「当社には生成AIに詳しいホワイトハッカーが在籍しており、高い技術力や豊富な知見をお客さまにフィードバックできます。生成AIは歴史が浅い技術であり、当社の取り組みもまだ試行錯誤の段階です。従って、一般的なセキュリティコンサルティングのように『かくあるべし』という確固たる対応指針を示すというよりは、お客さまと互いに知見を持ち寄って共に生成AIの利用環境を協創する取り組みを目指しています」（斎藤氏）

顧客の生成AI利用フェーズに合わせた支援（提供：日立ソリューションズ）《クリックで拡大》

生成AI特有の脆弱性をあぶり出す「生成AI向けセキュリティ診断」

　もう一つ、日立ソリューションズが提供している生成AI関連サービスに「生成AI向けセキュリティ診断」がある。同社が20年以上、サイバー脅威に対応するためのセキュリティ診断サービスを提供してきた知見やノウハウを生かして、生成AIのセキュリティリスクに特化させたサービスだ。

　サービスについて、池内氏は次のように説明する。

　「当社はこれまで、Webアプリケーションの脆弱性診断を手掛けてきました。しかし、今後は生成AIを実装したアプリケーションが急速に増えていきます。そこで、生成AI特有のリスクの有無を診断する新サービスを立ち上げました」

　検出できる脆弱性やリスクの例としては、プロンプトインジェクションのほか、生成AIが不適切な回答を出力してしまうリスクやシステムプロンプトが漏えいして攻撃に悪用されてしまうリスクなどがある。

　OWASP（Open Worldwide Application Security Project）が公開している「OWASP Top 10 for Large Language Model Applications」に代表されるような、生成AIアプリケーションが対処すべき脆弱性がシステムに潜んでいないかどうかを診断するとともに、脆弱性を発見した場合は対処法を提示する。その際は、同社の生成AI向けセキュリティ製品やサービスから適切なものを提案することも可能だ。

　診断内容のカスタマイズも行う。用意した診断項目に沿って調査するだけでなく、顧客特有の環境やニーズに最適化した診断内容を策定し、それに従って診断できる。

　「今まで提供してきた、ほかのセキュリティ診断サービスでも、お客さまからのヒアリング内容や相談内容を基に、診断する内容をカスタマイズしてきました。生成AI向けのサービスでも同様に、お客さま特有の事情やニーズに柔軟にお応えしながら診断や報告をしつつ、脆弱性の対処に適した製品やサービスを、お客さまの環境や生成AIの利用における成熟度に応じて提案します」（池内氏）

安全かつ安心なAI社会の実現に向けた、顧客との「協創」

　同社は2つのサービスを通じて、今後も安全かつ安心な生成AIの利用に向けた環境づくりを顧客と共に進める。その上で、重要なキーワードとなるのが「協創」だと斎藤氏は強調する。

　「従来のセキュリティ対策は『リスクマネジメント』としての側面が強かったですが、生成AIに関してはガバナンス面の対策が中心になります。当社のサービスの形態も、こちらから一方的にリスクマネジメントの方策を押し付けるのではなく、お客さまと一緒に理想的なガバナンスを形成する『協創』の活動が中心になるでしょう」

　こうした活動を通じて、生成AI特有のセキュリティリスクをより多くの企業に正しく認識してもらいたいと同氏は今後の抱負を述べる。

　「『生成AIのセキュリティ』と一口に言っても、『生成AIの開発・利用におけるセキュリティ（Security for AI）』と、『セキュリティの攻撃や防御における生成AIの利用（AI for Security）』という2つの意味が含まれています。2つは本来まったく異なるものですが、現時点は両者の区別さえ曖昧になっています。今後はこうした点もお客さまと情報を共有しながら、さまざまな側面からリスクを抑えたAI社会の実現に貢献したいと考えています」

　池内氏も、急速に進化する生成AIの利用のために「ぜひ当社の知見をより多くの企業に活用してもらいたい」と語る。

　「最近、『MCP』（Model Context Protocol）や『A2A』（Agent2Agent）といった生成AIの新たなプロトコルが登場するなど新技術が次々と生まれていますが、同時にそれらに付随するセキュリティリスクも生まれています。こうした動向を素早くキャッチアップして対応するためには、やはり専門的な知見やノウハウが欠かせません。

当社の知見を活用してもらいながら、共に安全、安心な生成AIの利用に向けて歩んでいただきたいと思います」

　生成AIの進化は、ビジネスや社会に計り知れない可能性をもたらす。しかし、その光の裏にはこれまで経験したことのない新たなセキュリティリスクが潜んでいるのも事実だ。リスクを正しく理解して適切な対策を講じなければ、せっかくの生成AIによる恩恵を享受できない。

　信頼できるAI社会を実現するためには、企業が主体的にリスクに向き合い、専門家の知見を借りて継続的に対策を講じることが不可欠だ。未来のAI活用をより豊かで盤石なものにするため、企業は生成AIのセキュリティを今こそ見つめ直すべきではないだろうか。