Brave、PerplexityのAIブラウザ「Comet」の深刻な脆弱性を指摘 「間接的プロンプトインジェクション」で情報漏えいの危険

Braveは、PerplexityのエージェントAIブラウザ「Comet」に深刻な脆弱性があると指摘した。Webページ上の隠れた命令でAIが乗っ取られ、別タブの個人情報などを盗む危険性があるという。Braveは修正が不完全とし、新たなセキュリティ対策の必要性を訴えた。

[ITmedia]

　Webブラウザを手掛ける米Braveは8月20日（現地時間）、米PerplexityのエージェントAIブラウザ「Comet」に、ユーザーが閲覧中のWebページ上の隠れた指示をAIが悪用してしまう「Indirect Prompt Injection（間接的プロンプトインジェクション）」という深刻な脆弱性があったと報告した。

PerplexityのエージェントAIブラウザ「Comet」

　Cometは、例えばユーザーが「このページを要約して」と命令した際、ユーザーの指示とWebページ側に密かに仕込まれている（悪意ある）内容とを区別せずにそのままLLMに渡してしまうとBraveは説明する。

　つまり、CometはWebページ上に巧妙に仕組まれた隠し命令を読み込んでしまい、意図しない行動を自動で実行させる可能性があるということだ。例えば、別のタブで開いているユーザーのメールやパスワードといった機密情報にアクセスし、それを攻撃者側に送信するといった危険なシナリオが紹介されている。

redditのスレッドの要約を頼む概念実証デモ（画像：Braveの動画より）

　Braveは7月25日にこの脆弱性をPerplexityに報告し、8月11日に脆弱性について公開予定である旨を通知し、8月13日までに修正が完了したという報告を受けたが、その後の再テストでまだ完全には安全になっていないことが判明し、再度報告したとしている。

　このような脆弱性は、AIがエージェントとして実際のWeb操作（情報取得やナビゲーション）を代行する環境では、旧来のWebセキュリティ技術の仮定が通用しないことを浮き彫りにしているとBraveは指摘する。同社は、エージェントAIブラウザに対する新たなセキュリティおよびプライバシーのアーキテクチャの必要性を強く訴えている。

　例えば、ユーザーの指示とWebサイトのコンテンツを明確に区別できるようにし、気密性の高いアクションを実施する際はユーザーの操作を要求するようにし、エージェント型ブラウジングは通常のブラウジングから隔離するべきだとしている。

　Brave自身もブラウザで動くAIアシスタント「Leo」を提供しており、エージェントとして機能するよう開発中だ。Braveは、Leoの安全性を非常に重視しており、堅牢なセキュリティ対策を講じ、業界をリードする保護を提供するよう積極的に取り組んでいるとしている。