生成AIの活用とセキュリティ対策を両立させてデータ基盤を作るには？ 専門家が解説

PR／ITmedia

PR

　生成AIの進化は著しく、企業の業務効率化や競争力の向上に大きな影響を与えている。一方で、情報漏えいや著作権侵害、倫理問題や差別的バイアス、プライバシー侵害といったリスクへの懸念が高まっていることも無視できない。

　こうした状況下で生成AIの能力を最大限に引き出してビジネスを成長させるためには、安全で強固なデータ基盤の構築が急務だ。企業はどのような対策を講じればよいのか。ネットワールドが2025年4月に開催したイベントからヒントを探る。

データの適切なラベル付けが最初のステップ

日本マイクロソフトの河野省二氏

　イベントでは、日本マイクロソフトの河野省二氏（技術統括室　チーフセキュリティオフィサー）が「生成AIの活用とリスク対応を両立するデータ基盤づくり」と題した講演を行った。生成AIの活用に当たって多くの企業が直面する課題の一つが「データ漏えいとオーバーシェアリング」だ。解決には「データのラベル付けが重要」と河野氏は説明した。

　セキュリティコンサルタントとしての自身の経験から、「経営層でさえ重要書類かどうかの判断が難しい」と河野氏は指摘。100社以上が参加した経営者勉強会で、自社の経営に関する書類を複数提示して重要書類かどうかを判断してもらったところ、全ての書類を正確に判断できた経営者はいなかったという。

　「経営者でさえ経営情報を正確に見分けられないのであれば、従業員はさらに判断に迷うでしょう。適切な学習データを用意できなければ、AIは正しく判断できません。情報を扱う人に『この情報をどのように扱ってほしいか』を適切に伝えるラベル付けこそが、AIに正しい判断をさせるための最初のステップです」

　ラベル付けには2つの考え方がある。1つ目が情報の分類だ。「社外秘」「取扱注意」「営業部限定」といったラベルをデータに付与し、アクセスできる人を限定する。

　2つ目がカテゴリー化で、フォルダに名前を付けて管理する方法だ。「営業資料」「製品仕様」など従業員が判別しやすい名前を付ける。検索を効率化するために複数のタグを付けるとより分かりやすい。

情報の分類とカテゴリー化によるラベル付け（提供：ネットワールド）《クリックで拡大》

　しかし、これらの方法でラベル付けをしても、情報の不用意な共有を完全に防ぐことはできないと河野氏は語った。

　例えば複数の従業員が経営会議用の資料を分担して作成する際、個々の従業員が持つデータには公開情報と機密情報が混在することが多い。資料を共有するためにローカルやクラウドに保存すれば、ファイルのコピーがどんどん増える。AIが保存先のアクセス権を持つ場合、機密情報に直接アクセスできなくても関連情報を通じて機密情報に間接的に触れてしまうリスクがある。

　こうした事態を防ぎ、情報を適切に管理するためには事業部、情シス、経営企画など多くの部署が協力して組織全体で取り組む必要がある。河野氏は事例としてクレディセゾンの取り組みを紹介した。同社はラベル付けの定義や情報の取り扱い方などを従業員同士で議論するワークショップを開催。議論を通じて、情報を機密度に応じて分類して守る仕組みを作ることが情報の保護につながるという認識が広がり、生産性と安全性を両立させた。

生成AIを活用するデータ基盤を構築する方法

　データを円滑に収集して情報を安全に管理する体制を整備できたら、次のステップはデータ基盤の構築だ。

　そこで役立つのが「Microsoft 365 E3/E5」に標準搭載され、組織内のあらゆる活動やデータを集約するデータベース「Microsoft Graph」（以下、Graph）だ。Graphは「Microsoft 365」のテナント内に存在し、ユーザーは情報にAPIを通じてアクセスできる。Graphと外部のデータストレージを連携させることも可能だ。

　Graphにデータが蓄積されると、データの意味やデータ同士の関連性を解析して精度の高い検索結果を出力（セマンティックインデックス）する。それによって、情報の迅速な把握や生産性の向上につながる。GraphはAIアプリの使用状況など全てを記録するため、データ管理やガバナンス強化の面からも有効だ。

AI活用のデータ基盤にはGraphが有効だ（提供：ネットワールド）《クリックで拡大》

　Graphの有効性を河野氏は次のように説明した。

　「『Microsoft Teams』の100人が参加するチャンネルで誰かがチャットに投稿した際、全員が読めば既読マークが付きますが、誰が読んだのかは分かりません。ただし、既読者のデータはGraphに記録が残るため、APIを使えば誰が読んだのかを把握できます」

モダンなIT環境に移行してセキュリティコストを削減

　こうしたAIの能力を発揮させながら安全かつ強固な基盤を構築するには、レガシーからモダンな環境への移行が不可欠だと河野氏は強調した。

　「セキュリティ対策はコストが掛かると捉えられがちですが、新しい基盤への移行によってセキュリティ対策と生産性向上を両立させられます。これまでレガシーなIT環境は複数のセキュリティ対策を後追いで講じることで安全性を確保していました。しかし、運用が複雑化してコスト増大を招いていました。『セキュリティ・バイ・デザイン』に基づいたモダンなIT環境に移行すれば、長期的に見てセキュリティ対策に掛かるコストの削減につながるでしょう」

進化するAIエージェントと広がる事例

　河野氏は、今後普及が見込まれる「AIエージェント」についても言及した。AIエージェントは自律的に判断してタスクを実行するプログラムで、従来のRPAなどの自動化とは異なり、状況に応じて自らルールを作成しながら処理できる点が特徴だ。

　活用も徐々に広がり、製造業やサービス業など多くの現場で活用が進む。河野氏は「Microsoftのサイトでそれぞれの事例を詳しく紹介しているのでご覧いただければと思います」と話した。

　AIエージェントの進化には目を見張るものがある一方、「責任をどのように明確化するのかが重要」と河野氏は指摘した。

　Microsoftは信頼できる状況や社会の原則が尊重される状況を確実に保つために「Responsible AI」（責任あるAI）の原則に基づき、さまざまなAIシステムを開発している。

　「当社がAIを開発して提供する過程では透明性や公平性、信頼性や安全性の担保など多くの学びがありました。それらをまとめてAIシステム構築のためのフレームワーク『Microsoft Responsible AI Standard V2』として公開しているので、ぜひ参考にしてください」

Microsoft Responsible AI Standard V2の一例（提供：ネットワールド）《クリックで拡大》

ハルシネーションや安全性への対応は？

　質疑応答では、参加者から生成AIのハルシネーションへの対応について質問が出た。

　河野氏は、ハルシネーションは「数ある情報から何が選ばれたのかということ」とした上で次のように語る。

　「社内でハルシネーションが起こるならば、精査されていない資料やメモなどが数多く存在し、それが誤解を招く要因になっているためです。情報を適切に管理して不要なデータを整理すれば、ハルシネーションは起こりにくいのではないでしょうか」

　また、AIが学習を重ねた結果、安全でなくなる可能性はないかという質問が出た。これに対し河野氏は、近年注目を集めるサプライチェーンセキュリティを例に挙げて回答する。

　「複数の発注先がある場合、自社が考える安全性と全ての発注先の企業が考える安全性の基準を完全に一致させることは困難です。AIも同じで、予期せぬ方向にAIが進化しないように人間が安全に関する共通認識をAIに教えることが重要です」

ネットワールドが無償で提供する「Copilotワークショップ」

ネットワールドの中西綾望氏

　河野氏の講演に続いて、リスクに対処しながら生成AIを活用する方法をネットワールドが紹介した。

　ネットワールドは「Microsoft 365 Copilot」（以下、Copilot）の導入と活用を支援する「Copilotワークショップ」を無償で提供している。「Copilotを実際に体験でき、機能や活用方法に関する疑問を解消できます。パートナー企業やエンドユーザー向けに個別で開催が可能です」と同社の中西綾望氏（マーケティング本部クラウド推進部 クラウドビジネス課）は説明する。

　同社はクラウドへのデータ蓄積を支援する「Microsoftクラウド導入支援サービス」や移行サービス「CloudPath Services」も提供しており、Copilotの活用に不可欠なクラウド環境の整備までサポートしている。

将来を見据えた「Copilot+ PC」の選択

ネットワールドの吉本冬輝氏

　続いて登壇したネットワールドの吉本冬輝氏（マーケティング本部クラウド推進部 クラウドビジネス課）が、将来を見据えて「Copilot+ PC」を選ぶことの重要性を語った。

　AIの進化に対応するため、PC側にもAI処理に特化したNPU（Neural Processing Unit）を搭載した「AI PC」をメーカー各社が発表している。特にMicrosoftが提唱するCopilot+ PCは、40 TOPS（40兆回の演算／秒）以上の演算性能を持つNPUと16GB以上のメモリなどを搭載したAI PCの新クラスだ。

　現時点の生成AIサービスはクラウドやデータセンターでの処理が中心だ。しかし、NPUを搭載したAI PCが普及すれば、全ての処理をクラウドで行うのではなく、一部をローカルで行うハイブリッドモデルが主流になると考えられる。アプリ側もNPUを活用することで、パフォーマンス向上や新たな機能の搭載が期待できる。

　MicrosoftはSurfaceブランドでもCopilot+ PCの対応を積極的に進める。加えて、チップレベルからクラウドサービスまでを包括的に保護して多層防御を実現する「Chip to Cloud」という Surface本来の強みと併せて、市場への攻勢を強めている。

　Windows 10のサポート終了が迫る中、Windows 11への移行と設定変更は多くの企業にとって喫緊の課題だ。PCの初期セットアップをクラウド経由で行える「Windows Autopilot」（以下、Autopilot）を利用すれば、管理者の負担を軽減してクラウド経由での効率的なデバイス設定が可能になる。ネットワールドはAutopilotの導入支援サービスも提供し、スムーズな移行をサポートする。

---

　生成AIの活用は企業の成長に不可欠だが、セキュリティリスクへの対策も同時に行う必要がある。データへの適切なラベル付け、安全なデータ基盤の構築、モダンなIT環境への移行に対応して、ネットワールドのワークショップやサービス、Copilot+ PCなどを活用することで、リスクを低減しながら生成AIの利点を最大限に引き出せるだろう。