Brave、PerplexityのAIブラウザ「Comet」の深刻な脆弱性を指摘 「間接的プロンプトインジェクション」で情報漏えいの危険
Webブラウザを手掛ける米Braveは8月20日(現地時間)、米PerplexityのエージェントAIブラウザ「Comet」に、ユーザーが閲覧中のWebページ上の隠れた指示をAIが悪用してしまう「Indirect Prompt Injection(間接的プロンプトインジェクション)」という深刻な脆弱性があったと報告した。
Cometは、例えばユーザーが「このページを要約して」と命令した際、ユーザーの指示とWebページ側に密かに仕込まれている(悪意ある)内容とを区別せずにそのままLLMに渡してしまうとBraveは説明する。
つまり、CometはWebページ上に巧妙に仕組まれた隠し命令を読み込んでしまい、意図しない行動を自動で実行させる可能性があるということだ。例えば、別のタブで開いているユーザーのメールやパスワードといった機密情報にアクセスし、それを攻撃者側に送信するといった危険なシナリオが紹介されている。
Braveは7月25日にこの脆弱性をPerplexityに報告し、8月11日に脆弱性について公開予定である旨を通知し、8月13日までに修正が完了したという報告を受けたが、その後の再テストでまだ完全には安全になっていないことが判明し、再度報告したとしている。
このような脆弱性は、AIがエージェントとして実際のWeb操作(情報取得やナビゲーション)を代行する環境では、旧来のWebセキュリティ技術の仮定が通用しないことを浮き彫りにしているとBraveは指摘する。同社は、エージェントAIブラウザに対する新たなセキュリティおよびプライバシーのアーキテクチャの必要性を強く訴えている。
例えば、ユーザーの指示とWebサイトのコンテンツを明確に区別できるようにし、気密性の高いアクションを実施する際はユーザーの操作を要求するようにし、エージェント型ブラウジングは通常のブラウジングから隔離するべきだとしている。
Brave自身もブラウザで動くAIアシスタント「Leo」を提供しており、エージェントとして機能するよう開発中だ。Braveは、Leoの安全性を非常に重視しており、堅牢なセキュリティ対策を講じ、業界をリードする保護を提供するよう積極的に取り組んでいるとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開 アルトマン氏とマスク氏も賛同
-
2
NECが明かす「AIだけの部署」の実態 AI同士で1on1、ストレスチェックで“悩み”も可視化
-
3
スクエニ、ゲームの品質テストをGeminiで自動化 AIが画面を見ながらコントローラーを操作、検証作業を自走
-
4
「AIコーディングより人を雇う方が安い」時代が来る? 生成AIの予算超過を防ぐトークン浪費対策の全て
-
5
Sakana AI、一部「GPT-6 Astra」「Fable 5.1」超えうたうFugu最新版 連携先に「両モデルは含まず」
-
6
Anthropic在籍の研究者2人も同調──「AIが人類を滅ぼしかねないと本気で考えている」
-
7
大金かけて作ったAIを無料公開できるワケ ローカルLLMブームを支えるベンダーと国家の思惑
-
8
Windows用「Gemini」アプリ提供開始 画面上に重ねて作業を中断せず利用可能に
-
9
Anthropic、AI悪用レポートを公開 中国AI企業の「蒸留」、各国政府の監視・世論操作、生物兵器につながり得る研究を列挙
-
10
好業績なのに“上場廃止” なぜネットワンはSCSKとの「攻めの統合」に賭けたのか
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR