Google、生成AI悪用攻撃報告を脆弱性報酬（バグバウンティ）プログラムに追加

　米Googleは10月26日（現地時間）、生成AIに対する懸念が高まる中、脆弱性報酬プログラム（Vulnerability Reward Program、VRP）をAI悪用の攻撃に拡大すると発表した。

　VRPは、Webやアプリなどに潜む脆弱性を報告した人に報酬を与えるプログラム。こうしたプログラムは、一般にバグバウンティプログラムなどとも呼ばれる。

　Googleは、この拡大により「AIの安全性とセキュリティに関する研究が促進され、潜在的な問題が明らかになり、最終的にはすべての人にとってAIがより安全になると信じている」としている。

　AI向けVRPの拡張の一環として、バグの分類と報告の方法を新たに検討しているという。

　AIを悪用した攻撃のシナリオには、例えば敵対的なプロンプトを作成してモデルの動作に影響を与え、アプリが意図しない方法で出力を制御できるようにしてしまう「プロンプト攻撃」や、機密情報を含むトレーニングサンプルを逐語的に再構築する「メンバーシップ推論」攻撃などがある。

　米Microsoftも12日、同様のAIを対象としたバグ報奨金プログラムを発表している。

印刷する

SNSでシェア

関連記事

• 

  OpenAI、AIの“壊滅的な”リスクに取り組む「Preparedness」チーム結成

• 

  AIの4社（Anthropic、Google、Microsoft、OpenAI）、安全なAI目指すフォーラムFMF立ち上げ

• 

  「AIに毒を盛る」──学習用データを改ざんし、AIモデルをサイバー攻撃　Googleなどが脆弱性を発表

• 

  Google Playの脆弱性報酬プログラム、対象がダウンロード1億以上のアプリに拡大

こんなメディアも見られています

ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

企業ITのトレンドを詳説

エネルギーの専門メディア

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン