ChatGPTに「ロックダウンモード」 プロンプトインジェクションによる情報漏えい対策
米OpenAIは6月5日(現地時間)、ChatGPTに新たなセキュリティ機能「ロックダウンモード(Lockdown Mode)」の提供を開始した。プロンプトインジェクション攻撃によるデータ流出のリスクを抑えるためのオプション設定で、有効にするとChatGPTがWebや外部サービスに接続する機能の多くが制限される。
同社が2月に発表していたもので、Free、Go、Plus、Proの個人向け各プランと、Businessアカウントに順次展開される。
プロンプトインジェクションは、Webページやアップロードされたファイルなどに第三者が悪意ある指示を埋め込み、AIをだまして本来許可されていない動作(機密情報の漏えいなど)をさせる攻撃手法。OpenAIはこれを「フロンティアの研究課題」と位置付けており、多層防御を講じている。ロックダウンモードは追加的な防御層で、機密データを攻撃者が管理するサーバに外部送信する段階を、ネットワークリクエストを制限することで遮断するというものだ。
ただし、あくまでデータを外部に持ち出させないことに特化した機能であり、注入そのものを止めるものではない。FAQでは、ロックダウンモードはプロンプトインジェクションに起因するデータ流出のリスクを大幅に減らすことを目的としているが、流出が起こらないことを保証するものではないと説明している。
OpenAIはこの機能はすべてのユーザーに必要なものではないとした上で、機密データを扱い、プロンプトインジェクションによるデータ流出リスクに対してより厳格な保護を求める個人や組織を想定していると説明している。
ロックダウンモードを有効にすると、ChatGPTの一部機能が無効化または制限される。ライブWebブラウジングはキャッシュされたコンテンツへのアクセスに限定され、検索結果は古いものになる可能性がある。応答内でのWeb画像の表示・取得もできなくなる。「Deep Research」と「Agent Mode」は無効化され、Canvasで生成したコードのネットワークアクセス承認もできなくなる。データ分析のための外部ファイルの自動ダウンロードも不可になる。なお、「Codex」のネットワークアクセスにはロックダウンモードは影響しない。
個人ユーザーは「設定」→「セキュリティ」→「高度なセキュリティ」内の「ロックダウンモード」のトグルで設定できる。なお、ロックダウンモードと開発者モードは同時には利用できず、一方をオンにするともう一方は自動的にオフになる。有効にすると入力欄の上にステータスが表示され、特定のチャットだけ一時的にオフにすることも可能だ。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
GMO、ランサム被害にあった顧客に新しいPC提供へ 犯行グループは1人の顧客情報公開か
-
2
NECのルータ「Aterm」、PHP脆弱性の影響なし 設定画面URLの「.php」は無関係
-
3
「楽天トラベル」に不正アクセス 顧客情報最大約260万件など流出か 予約者約3.6万件のクレカ情報も
-
4
Google、プライバシーポリシーに「Gmail」「Googleフォト」のデータを広告に使う例外を追加 回避方法は
-
5
GMO不正アクセス、犯人側は「27日に顧客のPC攻撃」予告 GMOが端末回収、ホワイトハッカーが解析中
-
6
GMO、攻撃者による情報公開を確認 顧客データ含むか調査中 追加の見舞金も検討
-
7
GMO、攻撃者の公開情報に「アクセスは絶対に控えて」 悪質な拡散者には法的措置を準備
-
8
「5年でバッテリーが使い物にならなくなる」は本当か テスラ「モデル3」5年目点検で分かったこと
-
9
GMO熊谷代表「社内ホワイトハッカーが事前に指摘」も対策遅れ、国に「能動的サイバー防御」要請 「責任転嫁では」SNSで批判も
-
10
「年齢は合ってますが、人間ではありません」 6歳の飼い猫に届いた“進研ゼミの案内” なぜ届いたのかベネッセに聞いた
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR