全面禁止が現実解ではない 安全を高めてAIで業務効率化に取り組むには：AI利用「3つのリスク」と対策

AIの業務導入が進む中、企業はランサムウェア被害につながる新たなセキュリティリスクへの対応を迫られている。その対策として、今何が求められているのか。

[PR／ITmedia]

　AI技術はこの数年で大きく変化し、業務においても当たり前のように活用されるようになった。グローバルでは業務にAIを活用している組織は約8割に上るとみられ、もはや「AIを使わない」という選択肢はあり得ないと言ってよいだろう。

　一方で、AIによって情報漏えいや予期せぬシステム障害といったリスクがもたらされる恐れもある。こうしたAIのリスクに積極的に取り組んでいる企業はまだ少なく、ギャップが存在するのが実情だ。

　ネットワールドの鈴木圭介氏（技術本部 ソリューションアーキテクト部）は、2026年5月27日にオンラインで開催されたセミナー「生成AI時代の“見えないリスク”にはCrowdStrike AIDRを！」において、「AI活用は『するか否か』ではなく、『どう安全に進めるか』というフェーズに入っています」と指摘。セキュリティを守りながらAI活用の幅を広げるための施策を説明した。

AI導入で生まれる3つのリスク　「禁止ではない」方法で対策

　AI導入によって、どのようなリスクが生じるのだろうか。

　1つ目は、シャドーAIの増加だ。デジタルトランスフォーメーション（DX）戦略の一環でAI活用を推進するのはいいが、情報システム部門の知らないところで勝手に導入され、誰がどのAIをどのように活用しているかといった利用実態を把握できない状況に陥っている。

　2つ目は、AIに指示するプロンプト経由の情報漏えいだ。個人情報や機密情報が含まれたファイルがクラウドサービスにアップロードされる場合であれば、エンドポイントセキュリティ製品やセキュアWebゲートウェイ、DLPといった既存のセキュリティ対策で検知やブロックが可能だ。しかし、プロンプトの一部に含まれている場合は途端に把握が困難になる。そのままでは外部に機密情報やAPIキー、ソースコードなどが流出したり、学習に利用されたりする恐れがある。

　3つ目は、AIの暴走や誤作動だ。さまざまな処理をAIで自動化できる半面、人の目によるチェックを欠いたまま動かすと思わぬ事態に陥ることがある。海外では、本番システムのデータベースが削除されて事業に大きな影響が生じたケースが報告されている。

　いずれも見過ごせないリスクだが、かといってAIの利用を禁止するのは非現実的だ。ビジネスのスピードが加速し、人手不足が進む中では、AIをどう駆使するかが業務効率化の鍵を握る。安易にAI利用を禁止しても、かえってシャドーAIを助長しかねない。従って、会社ごとのルールに沿っていかに適切にコントロールしながらAIを活用するかが問われている。

　ネットワールドはこうした課題を踏まえ、AIを活用できるかどうかのポイントとして以下の3つの観点で自社の在り方を確認することを推奨している。

• 「誰が」「どのようなサービスを利用しているのか」という自社のAIの利用実態を棚卸し、見える化できているかどうか
• AIに入力すべき情報と入力すべきではない情報をルール化し、制御できているかどうか
• 一律に禁止するのではなく、ルールに基づいて安全に使わせる方法はあるかどうか

AI利用のリスク（提供：ネットワールド）《クリックで拡大》

見つけ、守り、続けることを可能にする「AIDR」

　こうした3つのポイントを押さえてAI活用を安全に進めるための手段の一つが、クラウドストライクのセキュリティツール「CrowdStrike Falcon® AI Detection and Response」（AIDR）の利用だ。

　クラウドストライクは、Falconという一つのインフラでEDRやXDRといったセキュリティ製品を提供している。EDRであれば、PCをはじめとしたエンドポイントのさまざまなアクティビティーやデータを監視し、イベント情報を解析して脅威の兆候を検知し、それに対応する。それによってランサムウェア感染といったセキュリティ事故を防ぐ。

　AIDRは、AIを対象に同じ保護機能を提供する。プロンプトへの入力やAIからのレスポンス、接続先のAIモデルやAIエージェントの挙動、接続元のユーザーやデバイスIDなどを一次データとして扱い、脅威の検知とそれへの対応を実施する。既存のツールを全て置き換えるものではなく、補って強化するものという位置付けだ。

　このうち、従業員がAIを活用する際のセキュリティ機能を提供する「Falcon AIDR for Workforce」は、主に3つの機能を提供する。

　1つ目は「見つける」機能だ。社内で誰がどのようなAIを利用し、どのようなプロンプトを入力しているかを可視化する。2つ目は、可視化した状況に基づいて外部に出すべきではない情報の送信をブロックする。3つ目は、こうした機能を生かすことでルールに沿った活用を継続できるように支援する。

　プロンプトの内容を検査し、AIを悪用するプロンプトインジェクション、機密データの漏えい、トピックの逸脱、悪意あるコンテンツという4つの脅威を検知する機能もある。クラウドストライクによると、プロンプトインジェクションについては最大99％の精度で検出できる。

　その上で、「Claudeは許可するがGeminiは使わせない」「個人情報はマスクした上で送信する」といったポリシーに基づいたルールを設定し、アクションを取る。ルールは、部署やユーザー単位でも設定可能だ。

　最後のアクションには、一律に利用を禁じるのではなく監視だけを実施してレポートを収集する「Report Only」モードが用意されている。機密情報を検知するとマスクをかけたりハッシュ化したりと、複数の方法で置換して業務そのものは継続させることも可能だ。

AIDRの主な機能（提供：ネットワールド）《クリックで拡大》

まずは可視化の一歩を踏み出し、段階的に安全なAI活用を加速

　鈴木氏は、AIDRを実機検証することでまず「可視化」するだけでも大きな価値があると述べる。「誰が、何を、どう使っているかは意外と把握できていません。これが実現するだけでも大きな一歩になります」

　同氏によると、まずReport Onlyモードでログを蓄積し、様子を見ながら少しずつ制限を掛けるアプローチが現実的だ。AIサービスごとに挙動を確認し、段階的に適用することを推奨している。

　最初から完璧なルールを作る必要はなく、ログを見ながら最適化するのがベターだという。鈴木氏は、「情報漏えいが発生してはならないので、従業員がAIを使う仕組みをコントロールしつつセキュリティ対策を講じることが必要です」と述べ、関係者を巻き込み、安全を守ってAI活用を加速させてほしいと呼び掛けた。

Amazonギフトカードが当たる！アンケート実施中

本記事に関連して「企業における生成AIの利用実態とセキュリティ対策」についてのアンケートを実施しています。回答された方の中から抽選で10名様に、Amazonギフトカード（Eメールタイプ）3000円分をプレゼントいたします。当選者には、アイティメディアIDにご登録のメールアドレス宛にギフトをお送りします。当選者発表はギフトの送付をもってご連絡とさせていただきます。ぜひ下記アンケートフォームよりご回答ください。

ログイン または 会員登録（無料）いただくとアンケートフォームが表示されます。オレンジ色の「アンケートに回答する」ボタンからアンケート回答をお願いいたします。