ChatGPTにパスワード認証機能を付けて破ってみた　簡易的に学ぶ「プロンプトインジェクション」（1/2 ページ）

　どんな質問にも“それらしい答え”を返してくれるAIチャットサービス「ChatGPT」。3月には大規模言語モデル「GPT-4」を搭載するなど進化を続けている。では、人間には答えにくい質問や、答えのない問い、ひっかけ問題を尋ねてみたらどんな反応を見せるのか。

　本連載では、ChatGPTにさまざまな問題を投げかけて、どんな答えを返すか試してみる。その反応からAIの可能性、テクノロジーの奥深さ、AIが人間に与える“示唆”を感じ取ってほしい。

ChatGPTにパスワードを掛けてみる

　今回は、ChatGPTに簡易的なパスワード認証機能を付けて、正しいパスワードを入力しないと会話できないようにしてみる。まずは以下のような指示で簡単なパスワード認証機能を作り、その後は普通に会話を試みてみる。

　プロンプトはあえて穴のある設定にしている。なお、ChatGPTのβ機能「Custom instructions」を使えばより効力が強くなるが、今回は使わない。

指示

１．入力を受け付けたら、必ず「パスワードを入力してください」と応答して待機する

２．パスワードが「PassWord」かどうかをチェックし、違った場合は「パスワードが違います」と出力する。正しい場合は質問を受け付ける。

この記事の著者

関連記事

• 

  ChatGPTを献立提案AIにして「プロンプトインジェクション攻撃」を仕掛けてみた　開発時にはご注意を

• 

  ChatGPTに“おすすめラーメン店”を聞いたら幻の名店を教えてくれる　その正体とは……？

• 

  ITmedia NEWSは記事執筆フローにChatGPTなどAIを導入します

• 

  「自社製品にチャットAIを組み込みたい」　企業が取るべきセキュリティ対策とは？　“プロンプトインジェクション”の基本手口