AIがサイト閲覧、自動クリック・入力も Chrome拡張「Claude for Chrome」のテスター募集 攻撃受けるリスクあり

[岡田有花，ITmedia]

　米Anthropicは8月26日（現地時間）、Webブラウザ上で、Claude AIが自動的にボタンクリックやフォーム入力を行うChrome拡張「Claude for Chrome」のテスターの募集を始めた。

　ユーザーは、ChromeブラウザのサイドパネルでClaudeと対話・指示し、Claudeがブラウザ内を閲覧したりカーソル移動やテキスト入力を実行する。

　Webブラウザ経由のスケジュール調整やメール返信などを効率化できる反面、悪意のあるWebサイトからデータを盗まれるなどのプロンプトインジェクション攻撃を受けるリスクがある。

　このためテストユーザーは、Maxプラン加入者1000人限定で募集。「ClaudeがChromeで代わりに操作することに抵抗がなく、機密性の高い設定を行っていない」人を募っている。

ブラウザ内を操作しなくても、自然文で不動産などを検索できる

フードデリバリーサイトの操作も

　Claude for Chromeを使って不動産サイトにアクセスした場合、「シアトル近郊にある3ベッドルームの住宅を、60万ドル以下の予算で5つピックアップして」などと自然文で指令するだけで、Claude AIがサイトに条件を入力してマッチした物件を提示する。長文のGoogleドキュメントを開きながら、Claudeにその要約を表示させる――なども可能だ。

　同社のテストでは、カレンダーの管理や会議のスケジュール設定、メールの返信の下書き、定期的な経費報告書の処理、Webサイトの機能テストなどを効率化できたという。

　ただこの機能を使うと、悪意あるWebサイトがAIをだまし、ファイルの削除やデータの窃取、金融取引を行わせるといったプロンプトインジェクション攻撃を受けるリスクがある。

　同社の実験では、安全対策を講じていないブラウザでは23.6％の攻撃が成功したという。そこで、特定のサイトへのアクセス制限や、データ公開や購入など高リスクなアクションの前にユーザーに確認を求める機能を実装するなどし、攻撃成功率は11.2％に減ったという。今後も対策を強化し、攻撃成功率をゼロにしていく。

　テストユーザーは、WebサイトごとにClaudeのアクセス許可を設定でき、金融サービスやアダルトコンテンツなどへのアクセスは初期設定で制限されている。

　拡張機能はChrome Webストアからインストールでき、待機リスト経由で利用申請する。同社はテストユーザーによる同社は実環境でのフィードバックを収集し、安全性強化とモデル改良を進めていく。