ChatGPTに「ロックダウンモード」 プロンプトインジェクションによる情報漏えい対策
米OpenAIは6月5日(現地時間)、ChatGPTに新たなセキュリティ機能「ロックダウンモード(Lockdown Mode)」の提供を開始した。プロンプトインジェクション攻撃によるデータ流出のリスクを抑えるためのオプション設定で、有効にするとChatGPTがWebや外部サービスに接続する機能の多くが制限される。
同社が2月に発表していたもので、Free、Go、Plus、Proの個人向け各プランと、Businessアカウントに順次展開される。
プロンプトインジェクションは、Webページやアップロードされたファイルなどに第三者が悪意ある指示を埋め込み、AIをだまして本来許可されていない動作(機密情報の漏えいなど)をさせる攻撃手法。OpenAIはこれを「フロンティアの研究課題」と位置付けており、多層防御を講じている。ロックダウンモードは追加的な防御層で、機密データを攻撃者が管理するサーバに外部送信する段階を、ネットワークリクエストを制限することで遮断するというものだ。
ただし、あくまでデータを外部に持ち出させないことに特化した機能であり、注入そのものを止めるものではない。FAQでは、ロックダウンモードはプロンプトインジェクションに起因するデータ流出のリスクを大幅に減らすことを目的としているが、流出が起こらないことを保証するものではないと説明している。
OpenAIはこの機能はすべてのユーザーに必要なものではないとした上で、機密データを扱い、プロンプトインジェクションによるデータ流出リスクに対してより厳格な保護を求める個人や組織を想定していると説明している。
ロックダウンモードを有効にすると、ChatGPTの一部機能が無効化または制限される。ライブWebブラウジングはキャッシュされたコンテンツへのアクセスに限定され、検索結果は古いものになる可能性がある。応答内でのWeb画像の表示・取得もできなくなる。「Deep Research」と「Agent Mode」は無効化され、Canvasで生成したコードのネットワークアクセス承認もできなくなる。データ分析のための外部ファイルの自動ダウンロードも不可になる。なお、「Codex」のネットワークアクセスにはロックダウンモードは影響しない。
個人ユーザーは「設定」→「セキュリティ」→「高度なセキュリティ」内の「ロックダウンモード」のトグルで設定できる。なお、ロックダウンモードと開発者モードは同時には利用できず、一方をオンにするともう一方は自動的にオフになる。有効にすると入力欄の上にステータスが表示され、特定のチャットだけ一時的にオフにすることも可能だ。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
配布前の「ちいかわ」グッズがメルカリに? くら寿司コラボ第2弾、初日から“内部犯”の臆測呼ぶ 第1弾に続き
-
2
ダークチョコ(カカオ85%)を毎日3週間食べる→ネガティブ感情が減少 70%では変化なし 韓国での研究結果
-
3
開成の鉄研、寝台特急「サンライズ」での迷惑行為を謝罪 大声やラウンジ占拠など……旅行活動停止
-
4
RIZAP社員、私用AIに顧客の個人情報入力 氏名や疾患、保険証番号など……同社が謝罪
-
5
「三省堂書店池袋本店」閉店へ 11年の歴史に幕、惜しむ声続々
-
6
ELYZAの「業務AIアプリをAIで作成」特許、「新規性ない」と批判殺到→謝罪後も収まらず
-
7
OpenAIのAIエージェント、休眠サイトを掲示板化してタスク回答を共有か 研究団体が報告書公開
-
8
新宿駅に「ごみ箱ロボット」出現 改札内を自動巡回 JR東が実証実験
-
9
SEGAそっくりのロゴで「MAGA」――トランプ政権公開のWebゲームが物議 移民送還などを題材に 【追記あり】
-
10
「RSA-260」ついに解けた Xに“130ケタの数字”投稿、世界が注目 マスク氏「文字数増やしてよかった」
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR