ChatGPTに「ロックダウンモード」 プロンプトインジェクションによる情報漏えい対策

OpenAIは、ChatGPTに新たなセキュリティ機能「ロックダウンモード」の提供を開始した。プロンプトインジェクション攻撃によるデータ流出リスクを抑えるためのオプションで、有効にするとWebブラウジングや外部サービスへの接続機能が制限される。機密データを扱い、厳格な保護を求める個人や組織を想定している。

[ITmedia]

　米OpenAIは6月5日（現地時間）、ChatGPTに新たなセキュリティ機能「ロックダウンモード（Lockdown Mode）」の提供を開始した。プロンプトインジェクション攻撃によるデータ流出のリスクを抑えるためのオプション設定で、有効にするとChatGPTがWebや外部サービスに接続する機能の多くが制限される。

　同社が2月に発表していたもので、Free、Go、Plus、Proの個人向け各プランと、Businessアカウントに順次展開される。

ロックダウンモードの設定画面

　プロンプトインジェクションは、Webページやアップロードされたファイルなどに第三者が悪意ある指示を埋め込み、AIをだまして本来許可されていない動作（機密情報の漏えいなど）をさせる攻撃手法。OpenAIはこれを「フロンティアの研究課題」と位置付けており、多層防御を講じている。ロックダウンモードは追加的な防御層で、機密データを攻撃者が管理するサーバに外部送信する段階を、ネットワークリクエストを制限することで遮断するというものだ。

　ただし、あくまでデータを外部に持ち出させないことに特化した機能であり、注入そのものを止めるものではない。FAQでは、ロックダウンモードはプロンプトインジェクションに起因するデータ流出のリスクを大幅に減らすことを目的としているが、流出が起こらないことを保証するものではないと説明している。

　OpenAIはこの機能はすべてのユーザーに必要なものではないとした上で、機密データを扱い、プロンプトインジェクションによるデータ流出リスクに対してより厳格な保護を求める個人や組織を想定していると説明している。

　ロックダウンモードを有効にすると、ChatGPTの一部機能が無効化または制限される。ライブWebブラウジングはキャッシュされたコンテンツへのアクセスに限定され、検索結果は古いものになる可能性がある。応答内でのWeb画像の表示・取得もできなくなる。「Deep Research」と「Agent Mode」は無効化され、Canvasで生成したコードのネットワークアクセス承認もできなくなる。データ分析のための外部ファイルの自動ダウンロードも不可になる。なお、「Codex」のネットワークアクセスにはロックダウンモードは影響しない。

　個人ユーザーは「設定」→「セキュリティ」→「高度なセキュリティ」内の「ロックダウンモード」のトグルで設定できる。なお、ロックダウンモードと開発者モードは同時には利用できず、一方をオンにするともう一方は自動的にオフになる。有効にすると入力欄の上にステータスが表示され、特定のチャットだけ一時的にオフにすることも可能だ。

有効にするとステータスが表示される