エンタープライズAI導入の勘所

「AI使うな」より「使うなら教えて」　エージェント時代のガバナンス再設計

　前回（第8回）は、バイブコーディングやAIエージェントの業務への適用が広がる中で、AI製サービスのセキュリティインシデントやシャドーAI、新種のサイバー攻撃などさまざまな問題を紹介しました。

　これらの背景には「AIの進化が早すぎて、組織のガバナンス管理が追いつけない」という深刻な現状がありますが、決して焦る必要はありません。あなたの組織だけが遅れているわけではなく、今や全世界がこのスピードに翻弄されているのです。

　まずは、AIエージェント独自のリスクを把握する必要があります。本稿では、世界のセキュリティエンジニアが参照する事実上の標準を策定してきた非営利団体OWASP（Open Worldwide Application Security Project）が整理したAIエージェントのリスクを参考にしつつ、「ガバナンスの原則」と「まず着手すべきアクション」を解説します。

OWASPが示す2原則

　AIエージェントが自律的に稼働することで、「ChatGPTが誤った回答をする」といった問題とは全く異なる性質の問題が起きる可能性があります。

　そのリスクを体系的に整理し10個にまとめたのが「OWASP Top 10 for Agentic Applications」です。2025年12月に公開されました。

　これらのリスクへの対処法を全て覚える必要はありません。OWASPはAIエージェントガバナンスとして、2つの原則を示しています。これらを理解するだけでも、対策の方向性が見えてきます。

原則①：最小権限エージェンシー

　AIエージェントには、目的のタスクを完了するために必要な最小限の権限、ツールアクセス、自律性だけを与えるという原則です。ITセキュリティにおける「最小権限の原則」のAIエージェント版です。

　セキュリティにおける最小権限が「どのデータにアクセスできるか」を制限するのに対し、AIエージェントにおける最小権限は「どこまで自律的に動けるか」を制限します。

　経営層や部門責任者、エージェントの設計担当者は、「経費申請チェック用のエージェントに、全てのメールを読む権限は必要か」「外部への送信を伴う操作には、人間の確認ステップを挟むべきではないか」「このエージェントが暴走したり乗っ取られたりしたとき、影響範囲はどこまでか」といった視点でエージェントの権限を厳しくチェックする必要があります。

原則②：強力な可観測性

　エージェントが何をしているのか、なぜそうしているのか、どのツールを使用しているのかを、常に人間が確認・監査できる状態に保つという原則です。

　ログが残らないエージェントは管理できません。「動いているかどうか」だけでなく「何をしているか」「どのデータに触ったか」まで見える化する設計が必要です。

日本企業が取るべき3つのアクション

　では、これらの原則に基づいて、われわれはAIエージェントのリスクに対処するためにどのようなアクションを取ればよいのでしょうか。「来週から始められる」レベルのアクションとして以下の3つを紹介します。

①AIエージェントの「棚卸し」をする

　まず、社内で動いているAIエージェントを一覧化することから始めましょう。把握すべき項目は「誰が作ったか」「何の目的か」「どのデータにアクセスするか」「外部と通信するか」「誰が管理しているか」の5つです。

　なぜこれが急務かというと、IT部門が把握していないAI利用が想像以上に広がっているからです。Gartnerの調査では、57％の従業員が個人の生成AIアカウントを業務に使用しており、33％が機密データを未承認ツールにアップロードしていると回答しています。Microsoftの調査でも、29％の従業員が未承認のAIエージェントを業務に使用していることが確認されました。複数の独立した調査が同じ実態を示しています。これは特定の会社の問題ではなく、業界横断の現状です。

　具体的には、「Microsoft 365 Copilot」の「Copilot Studio」や「Power Automate」「Slackbot」「Notion」の「オートメーション」など、既に稼働しているものをリストアップします。「IT部門が把握していないものがないか」をチームに聞いてみるだけでも第一歩になります。

　把握できていないものは管理できません。完璧でなくていいので、まずここから始めてみましょう。

②「人間が確認する関所」を業務フローに組み込む

　全てをAIに任せるのではなく、リスクの高いアクションには人間のレビューを必須とする仕組みも必要です。

　リスクの高いアクションとは、例えば外部へのファイルや電子メールの送信、社内システムの設定変更、契約・決裁に関わる操作などです。これらについて「AIが自動実行する前に、必ず人間が確認・承認する」というステップを組み込みます。

　バイブコーディングにも同じ考え方が適用できます。「生成したコードをそのまま本番環境に適用しない」や「別の担当者（またはAIセキュリティチェッカー）によるレビューを経る」といった運用ルールを設けます。

　実際、2026年1月にもバイブコーディングで構築されたSNSサービス「Moltbook」で、150万件のAPI認証トークンと3万5000件以上のメールアドレスが外部から閲覧可能な状態で放置される事態が起きています。AIによる開発が速くなるほど、人間が中身を確認する設計の重要性は増します。

　ただし、「全てに承認を求める」設計には注意が必要です。承認要求が高頻度に発生すると、レビュー担当者は内容を精査せず承認ボタンを押すだけの「ゴム印承認」に陥ります。承認の対象は外部送信や権限変更、本番デプロイといった高リスク操作に絞り、レビュアーが内容を理解できる頻度に抑えることが大切です。

　また、制限ばかりを強調すると、現場は萎縮し、かえって制限を迂回するシャドーAIに走りがちです。前述のとおり57％の従業員が個人で契約した生成AIサービスを業務に使用しているという現実は、組織が安全な利用環境を提供できていないことの裏返しでもあります。

　そこで有効なのが、サンドボックス環境の整備です。本番データから隔離され、外部通信もブロックされた環境であれば、従業員はセキュリティ事故を恐れずにAIの活用方法を試行錯誤できます。「自由に使える場所」と「責任を持って使う場所」を組織として明確に分けることで、現場の萎縮とシャドーAIの両方を防げます。

③「使うなら届け出て」の文化と報告窓口を作る

　個人のデバイスで簡単に利用できてしまうため、シャドーAIは「禁止しても使われてしまう」のが現実です。「使うな」だけでなく「使うなら教えて」が、現実的な対応かもしれません。

　「業務でAIツールを使う場合は部門担当者に報告する」という簡単なルールを設けるところから始めましょう。例えば、IT部門のヘルプデスクに「AIツール利用届け出フォーム」を作る、「Slack」に「#ai-tools」チャンネルを作って使用ツールの情報をシェアするといった方法が考えられます。

　エージェントが意図しない操作をした、重要なデータを誤って入力してしまった、といった不審な挙動の報告も、同じ窓口で受け付けられるようにしておいてもいいですね。

　IPAも「情報セキュリティ10大脅威 2026」の中で、AIリスクへの組織的対応体制の構築を推奨しています。

AIと人間の「協働」を長続きさせるために

　AIガバナンスは「AIの使用を制限する」だけではありません。「AIを組織として安心して使い続けるための仕組み」です。

　まず「棚卸し」から始めてみてください。社内で動いているAIエージェントを把握し、「誰が、何の目的で、どのデータにアクセスしているか」を一覧にする。それだけで、AIを組織として本格的に使い続けるための土台ができます。

エンタープライズAI　導入実務の勘所（ITmedia AI＋）

企業のデータ活用やAI導入支援を手掛けるインキュデータの執筆陣が、AI導入時の勘所や注意点を解説します。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  「AIの出力をそのまま使う」「エージェントが勝手に動く」と何がマズいのか？　陥りがちな7つのリスク

• 

  “あすけんの女”運営も「バイブコーディング」　工数増でもメリットあり？　AIで開発、本当の価値は

• 

  「ポンコツ」と呼ばれたM365 Copilotの逆転劇、GPT-5が転換点　活用の秘訣は“脱・プロンプト職人”