Brave、PerplexityのAIブラウザ「Comet」の深刻な脆弱性を指摘 「間接的プロンプトインジェクション」で情報漏えいの危険
Webブラウザを手掛ける米Braveは8月20日(現地時間)、米PerplexityのエージェントAIブラウザ「Comet」に、ユーザーが閲覧中のWebページ上の隠れた指示をAIが悪用してしまう「Indirect Prompt Injection(間接的プロンプトインジェクション)」という深刻な脆弱性があったと報告した。
Cometは、例えばユーザーが「このページを要約して」と命令した際、ユーザーの指示とWebページ側に密かに仕込まれている(悪意ある)内容とを区別せずにそのままLLMに渡してしまうとBraveは説明する。
つまり、CometはWebページ上に巧妙に仕組まれた隠し命令を読み込んでしまい、意図しない行動を自動で実行させる可能性があるということだ。例えば、別のタブで開いているユーザーのメールやパスワードといった機密情報にアクセスし、それを攻撃者側に送信するといった危険なシナリオが紹介されている。
Braveは7月25日にこの脆弱性をPerplexityに報告し、8月11日に脆弱性について公開予定である旨を通知し、8月13日までに修正が完了したという報告を受けたが、その後の再テストでまだ完全には安全になっていないことが判明し、再度報告したとしている。
このような脆弱性は、AIがエージェントとして実際のWeb操作(情報取得やナビゲーション)を代行する環境では、旧来のWebセキュリティ技術の仮定が通用しないことを浮き彫りにしているとBraveは指摘する。同社は、エージェントAIブラウザに対する新たなセキュリティおよびプライバシーのアーキテクチャの必要性を強く訴えている。
例えば、ユーザーの指示とWebサイトのコンテンツを明確に区別できるようにし、気密性の高いアクションを実施する際はユーザーの操作を要求するようにし、エージェント型ブラウジングは通常のブラウジングから隔離するべきだとしている。
Brave自身もブラウザで動くAIアシスタント「Leo」を提供しており、エージェントとして機能するよう開発中だ。Braveは、Leoの安全性を非常に重視しており、堅牢なセキュリティ対策を講じ、業界をリードする保護を提供するよう積極的に取り組んでいるとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
よく見られているカテゴリー
アクセスランキング
-
1
「ポンコツ」と呼ばれたM365 Copilotの逆転劇、GPT-5が転換点 活用の秘訣は“脱・プロンプト職人”
-
2
人間 vs. 人型ロボ、より多く作業をこなせるのは? 生配信で対決した結果…… 米企業
-
3
キオクシア社長「記録的な増収増益」 3カ月の売上収益1兆円、純利益は2990%増 好決算の背景は
-
4
「AIデータセンターの電力需要が急増」はホント? 発電大手Jパワー社長が明かした“報道との温度差”
-
5
伊藤忠商事や三菱ケミカルなど16社が参画 大手企業の「暗黙知」を活用する新プロジェクト
-
6
生成AIで3Dモデルを自動作成 専門スキル不要でテキストや画像から3D化
-
7
NEC社長が説く AI時代と新たな安全保障環境の到来で「ITサービスはこう変わる」
-
8
OpenAI、「ChatGPT」に個人向け資産管理機能 金融口座と連携
-
9
「最新のAI創薬ラボ」なのに会議室みたい!? 製薬大手がラブコール送る“異色のAI企業”による新拠点とは
-
10
Python 3.15に追加されるlazy importと内包表記でのアンパッキングについて調べてみた
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR