Google、生成AI採用企業向け保護フレームワーク「Secure AI Framework」

　米Googleは6月8日（現地時間）、生成AIを採用する企業向けの、AIを安全に使うためのフレームワーク「Secure AI Framework」（SAIF）を発表した。AIを狙うサイバー攻撃を阻止するのに役立つとしている。

　Googleは「生成AIの可能性は計り知れない。ただし、責任ある方法で構築し、導入するための明確な業界セキュリティ基準が必要だ」とし、その概念的フレームワークとしてSAIFを紹介すると説明する。

　SAIFは、ニューラルネットワークのコードやトレーニングのためのデータセットを盗もうとする試みを阻止するのに役立つという。また、攻撃者がAIモデルを改ざんし、悪意ある出力を生成することを困難にする。

　SAIFは6つのベストプラクティスのコレクションで構成されている。

• サイバーセキュリティ基盤のAIエコシステムへの拡張
• 異常なAI出力を検出する手順の実装
• AIによるサイバーセキュリティチームの生産性向上
• AIモデルに関するセキュリティ対策の定期的なレビュー
• AIシステムでの侵入テストの実施
• AI関連リスクを把握するチームの構築

　Googleはまた、AIの安全性とセキュリティに関連するセキュリティ上の欠陥を発見するためのバグ報奨金プログラムを拡大していることも発表した。

印刷する

SNSでシェア

関連記事

• 

  Google Cloud、生成AIによるデータ検索で米医療大手のメイヨークリニックと提携

• 

  AIがGoogle Cloudでのシステム開発について何でも教えてくれる　「Duet AI for Google Cloud」発表

• 

  Google、セキュリティ特化の生成AI採用「Cloud Security AI Workbench」

• 

  Google Cloud、AIスタートアップ向け支援強化　割引率アップ

こんなメディアも見られています

ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

エネルギーの専門メディア

スマートジャパン

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン