Brave、PerplexityのAIブラウザ「Comet」の深刻な脆弱性を指摘 「間接的プロンプトインジェクション」で情報漏えいの危険
Webブラウザを手掛ける米Braveは8月20日(現地時間)、米PerplexityのエージェントAIブラウザ「Comet」に、ユーザーが閲覧中のWebページ上の隠れた指示をAIが悪用してしまう「Indirect Prompt Injection(間接的プロンプトインジェクション)」という深刻な脆弱性があったと報告した。
Cometは、例えばユーザーが「このページを要約して」と命令した際、ユーザーの指示とWebページ側に密かに仕込まれている(悪意ある)内容とを区別せずにそのままLLMに渡してしまうとBraveは説明する。
つまり、CometはWebページ上に巧妙に仕組まれた隠し命令を読み込んでしまい、意図しない行動を自動で実行させる可能性があるということだ。例えば、別のタブで開いているユーザーのメールやパスワードといった機密情報にアクセスし、それを攻撃者側に送信するといった危険なシナリオが紹介されている。
Braveは7月25日にこの脆弱性をPerplexityに報告し、8月11日に脆弱性について公開予定である旨を通知し、8月13日までに修正が完了したという報告を受けたが、その後の再テストでまだ完全には安全になっていないことが判明し、再度報告したとしている。
このような脆弱性は、AIがエージェントとして実際のWeb操作(情報取得やナビゲーション)を代行する環境では、旧来のWebセキュリティ技術の仮定が通用しないことを浮き彫りにしているとBraveは指摘する。同社は、エージェントAIブラウザに対する新たなセキュリティおよびプライバシーのアーキテクチャの必要性を強く訴えている。
例えば、ユーザーの指示とWebサイトのコンテンツを明確に区別できるようにし、気密性の高いアクションを実施する際はユーザーの操作を要求するようにし、エージェント型ブラウジングは通常のブラウジングから隔離するべきだとしている。
Brave自身もブラウザで動くAIアシスタント「Leo」を提供しており、エージェントとして機能するよう開発中だ。Braveは、Leoの安全性を非常に重視しており、堅牢なセキュリティ対策を講じ、業界をリードする保護を提供するよう積極的に取り組んでいるとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
よく見られているカテゴリー
アクセスランキング
-
1
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
2
マイクロン、AI需要で広島工場増強へ起工式 1.5兆円投資
-
3
AIコーディングの「ループ」4種類を完全入門 Anthropic公式が分かりやすく整理して解説
-
4
キオクシア、新型メモリのサンプル出荷開始 岩手の工場の最先端設備活用
-
5
「AIは依然として古い性能法則に従っている」 Tenstorrent Jim Keller氏
-
6
富裕層にいかに金を使わせる? ダイナースとニューオータニ「18万円超カード」の真意
-
7
FDEとリコーの新コンサルサービス、どこが違う? AXのパートナー選びを考察
-
8
「250万超AIエージェント作成」の裏で同時多発する課題を回し切ったIT部門の運用術
-
9
AI推進にブレーキ? AWS「コスト抑制の動きある」 “トークン消費問題”への有効策は
-
10
「AIが引用するドメイン」不動の首位は……
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR