Google、生成AI採用企業向け保護フレームワーク「Secure AI Framework」

Googleは、生成AIを採用する企業向けのフレームワーク「Secure AI Framework」を発表した。トレーニング用データセットの盗難やAIモデルの改ざんを阻止するためのものだ。

[ITmedia]

　米Googleは6月8日（現地時間）、生成AIを採用する企業向けの、AIを安全に使うためのフレームワーク「Secure AI Framework」（SAIF）を発表した。AIを狙うサイバー攻撃を阻止するのに役立つとしている。

　Googleは「生成AIの可能性は計り知れない。ただし、責任ある方法で構築し、導入するための明確な業界セキュリティ基準が必要だ」とし、その概念的フレームワークとしてSAIFを紹介すると説明する。

　SAIFは、ニューラルネットワークのコードやトレーニングのためのデータセットを盗もうとする試みを阻止するのに役立つという。また、攻撃者がAIモデルを改ざんし、悪意ある出力を生成することを困難にする。

　SAIFは6つのベストプラクティスのコレクションで構成されている。

• サイバーセキュリティ基盤のAIエコシステムへの拡張
• 異常なAI出力を検出する手順の実装
• AIによるサイバーセキュリティチームの生産性向上
• AIモデルに関するセキュリティ対策の定期的なレビュー
• AIシステムでの侵入テストの実施
• AI関連リスクを把握するチームの構築

　Googleはまた、AIの安全性とセキュリティに関連するセキュリティ上の欠陥を発見するためのバグ報奨金プログラムを拡大していることも発表した。