Brave、PerplexityのAIブラウザ「Comet」の深刻な脆弱性を指摘 「間接的プロンプトインジェクション」で情報漏えいの危険
Webブラウザを手掛ける米Braveは8月20日(現地時間)、米PerplexityのエージェントAIブラウザ「Comet」に、ユーザーが閲覧中のWebページ上の隠れた指示をAIが悪用してしまう「Indirect Prompt Injection(間接的プロンプトインジェクション)」という深刻な脆弱性があったと報告した。
Cometは、例えばユーザーが「このページを要約して」と命令した際、ユーザーの指示とWebページ側に密かに仕込まれている(悪意ある)内容とを区別せずにそのままLLMに渡してしまうとBraveは説明する。
つまり、CometはWebページ上に巧妙に仕組まれた隠し命令を読み込んでしまい、意図しない行動を自動で実行させる可能性があるということだ。例えば、別のタブで開いているユーザーのメールやパスワードといった機密情報にアクセスし、それを攻撃者側に送信するといった危険なシナリオが紹介されている。
Braveは7月25日にこの脆弱性をPerplexityに報告し、8月11日に脆弱性について公開予定である旨を通知し、8月13日までに修正が完了したという報告を受けたが、その後の再テストでまだ完全には安全になっていないことが判明し、再度報告したとしている。
このような脆弱性は、AIがエージェントとして実際のWeb操作(情報取得やナビゲーション)を代行する環境では、旧来のWebセキュリティ技術の仮定が通用しないことを浮き彫りにしているとBraveは指摘する。同社は、エージェントAIブラウザに対する新たなセキュリティおよびプライバシーのアーキテクチャの必要性を強く訴えている。
例えば、ユーザーの指示とWebサイトのコンテンツを明確に区別できるようにし、気密性の高いアクションを実施する際はユーザーの操作を要求するようにし、エージェント型ブラウジングは通常のブラウジングから隔離するべきだとしている。
Brave自身もブラウザで動くAIアシスタント「Leo」を提供しており、エージェントとして機能するよう開発中だ。Braveは、Leoの安全性を非常に重視しており、堅牢なセキュリティ対策を講じ、業界をリードする保護を提供するよう積極的に取り組んでいるとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
よく見られているカテゴリー
アクセスランキング
-
1
公式がワンコーラス公開→AIで無断フルコーラス化、拡散 大原ゆい子氏「無職転生III」OPが被害
-
2
ChatGPTで広告表示へ 無料・Goプランが対象 6月22日にポリシー更新
-
3
AIエージェントもフィッシング詐欺に引っかかる? 米セキュリティ企業がOpenClawで検証 結果は……
-
4
「Siri AI」の進化に「Geminiそのまま」の誤解――現地取材で見えた“新生Apple Intelligence”の全貌
-
5
「ChatGPTのコネクタでつながるし、M365 Copilotいらなくない?」→有識者3人に聞いてみた 知らないと損するコンテキスト管理「Work IQ」の仕組み
-
6
政府・著名人のInstagramアカウントが次々に乗っ取り被害 原因はMetaのAIアシスタント?
-
7
「猫も杓子もAI」な現状は今後も続くのか?【後編】AI時代に必要な3つの検討事項
-
8
Apple「Siri AI」、13億台超が“利用不能”か? 新機能の拡大阻む“弱点”とは
-
9
“机の下でこっそり”AI使う――セールスフォース社長のAIエージェント活用術とは
-
10
「妹の脚を触った」因縁つけ仲間に暴行、AI基に恐喝未遂 容疑の高校生5人逮捕
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR