Google、生成AI採用企業向け保護フレームワーク「Secure AI Framework」
米Googleは6月8日（現地時間）、生成AIを採用する企業向けの、AIを安全に使うためのフレームワーク「Secure AI Framework」（SAIF）を発表した。AIを狙うサイバー攻撃を阻止するのに役立つとしている。
Googleは「生成AIの可能性は計り知れない。ただし、責任ある方法で構築し、導入するための明確な業界セキュリティ基準が必要だ」とし、その概念的フレームワークとしてSAIFを紹介すると説明する。
SAIFは、ニューラルネットワークのコードやトレーニングのためのデータセットを盗もうとする試みを阻止するのに役立つという。また、攻撃者がAIモデルを改ざんし、悪意ある出力を生成することを困難にする。
SAIFは6つのベストプラクティスのコレクションで構成されている。
- サイバーセキュリティ基盤のAIエコシステムへの拡張
- 異常なAI出力を検出する手順の実装
- AIによるサイバーセキュリティチームの生産性向上
- AIモデルに関するセキュリティ対策の定期的なレビュー
- AIシステムでの侵入テストの実施
- AI関連リスクを把握するチームの構築
Googleはまた、AIの安全性とセキュリティに関連するセキュリティ上の欠陥を発見するためのバグ報奨金プログラムを拡大していることも発表した。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
なぜ酒蔵の許諾なしに？ 「VTuberコラボ日本酒」騒動、主催者が経緯説明 仲介者による調整で「準備進んでいると認識」
-
2
かっぱ寿司「配布前のコラボグッズ、フリマで買わないで」 プリキュアコラボ発表日に注意喚起
-
3
「食事量は1日1200kcal以下、でも肥満」な人を14日間追跡調査 痩せない理由は……米コロンビア大などの研究
-
4
本物そっくり“AI生成レシート“が経費精算の脅威に マネフォ「自力で見破るのは難しい」 企業はどう備える？
-
5
「菜の花がおかしい」――イラストレーター制作うたうマラソン大会ポスターに指摘相次ぐ 事務局がAI使用明かす【訂正あり】
-
6
「ペンギンを返して」→「3匹全部採用して」 批判殺到のSuica新キャラ、ファンアートが空気を変えた？ SNSの声
-
7
藤井風のリサイタル、公式サイトがインターネット老人会すぎると話題 公民館のチラシみたいだけど東京ドーム開催
-
8
松本デジタル相、24.6万件漏えい可能性について説明 「既知の脆弱性を対応前に悪用」
-
9
「iPhone Duo」純正ケース話題、「面白いけど高い」……1万4800円と2万4800円
-
10
デジタル庁に不正アクセス、個人情報24.6万件漏えいか 各府省庁の職員情報など
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR