「シャドーAI」が蔓延する企業の“金銭的リスク”とは？ 調査で判明：CIO Dive

サイバー攻撃によってデータを侵害される企業の被害額は年々増加している。IBMの調査によると、シャドーAIが多く利用されている企業が被害に遭った場合、そうでない企業に比べて被害額がさらに多くなっていることが分かった。

[Lindsey Wilkinson，CIO Dive]

　サイバー犯罪者にとってAIアプリケーションは“価値の高い標的”となりつつある。しかし、IBMの調査によると、企業はAIアプリケーションに関する十分な防御体制を構築できていない。

　IBMは毎年発表している「Cost of a Data Breach report」（データ侵害コスト報告書）を作成するに当たり、サイバーセキュリティ業界で調査サービスを提供するPonemon Instituteに依頼し、600の組織で発生したデータ侵害の事例を調査した。

シャドーAIが蔓延する企業、データ侵害されるといくらかかる……？

　企業のAIモデルやAIアプリケーションに関わるセキュリティインシデントは、報告された侵害全体の13％にとどまっている。しかし、被害に遭った企業の97％ではAIに関する適切なアクセス制御が存在せず、データ漏えいや業務の混乱が広範囲に及んだという。AIに関連するインシデントの大半はアプリケーションやAPI、プラグインの侵害により発生している。

　さらに、IT部門をはじめとする管理部門が把握していないAIアプリケーション、いわゆる「シャドーAI」が多く利用されている企業は、そうでない企業に比べて、侵害を受けた際の被害額が多くなる傾向にあることが分かった。

　サイバー攻撃によってデータを侵害される企業の被害額は年々増加している。IBMはコストが高くなる侵害要因として「セキュリティ人材の不足」よりも「シャドーAIの増加」の方をより深刻だと評価している。どういうことか、見ていこう。

　まず、企業はAIを利用した攻撃にも直面している。それらの攻撃は報告された侵害の6件に1件を占めている。攻撃者が最もよく使う手口は、AIを使ったフィッシング詐欺やディープフェイクによるなりすましだ。

　AIの導入により業務効率や従業員の働き方を改善できるが、AIが適切に管理されなければセキュリティリスクを一層深刻にする恐れがある。

　IBMの調査によると、5社に3社以上の企業が「AIに関連するガバナンスポリシーを持っていない」もしくは「まだ策定の途中だ」と回答した。さらに、ポリシーを持っている企業の中でも、AIの導入に際して承認プロセスを設けたり、未承認のAIの利用について定期的に監査したりしている企業は半数未満だった。

　IBMにおいて、セキュリティ製品およびランタイム製品を担当するスジャ・ヴィスウェサン（Suja Viswesan）氏（バイスプレジデント）は、声明で次のように述べた。「調査データにより、AIの導入とAIの監視の間に既にギャップが存在しており、攻撃者がその隙を悪用し始めていることが分かった」

　侵害を受けた企業の5社に1社は侵害の原因を探った結果、シャドーAIの存在が明らかになった。世界全体におけるデータ侵害の平均コストは440万ドルだが、シャドーAIが多く利用されている企業の場合、利用が少ない企業と比較して約67万ドルの追加コストが発生していた。

　管理部門の承認を受けていないAIの利用は、個人を特定できる情報（PII）や知的財産データの流出量の増加にもつながっている。影響の大きさから、IBMは「シャドーAIの増加」を、最もコストのかかる侵害要因のトップ3に位置付けている。これは「セキュリティ人材の不足」を上回る順位だ。

　「行動を起こさないことによる損失は金銭面の損失に限らない。信頼や透明性、コントロールまで失ってしまうのだ」（ヴィスウェサン氏）

（注1）IBM Report: 13% Of Organizations Reported Breaches Of AI Models Or Applications, 97% Of Which Reported Lacking Proper AI Access Controls（PR Newswire）

（初出）Lack of AI governance brings security problems: IBM survey

原文へのリンク