ChatGPTにパスワード認証機能を付けて破ってみた 簡易的に学ぶ「プロンプトインジェクション」(1/2 ページ)
どんな質問にも“それらしい答え”を返してくれるAIチャットサービス「ChatGPT」。3月には大規模言語モデル「GPT-4」を搭載するなど進化を続けている。では、人間には答えにくい質問や、答えのない問い、ひっかけ問題を尋ねてみたらどんな反応を見せるのか。
本連載では、ChatGPTにさまざまな問題を投げかけて、どんな答えを返すか試してみる。その反応からAIの可能性、テクノロジーの奥深さ、AIが人間に与える“示唆”を感じ取ってほしい。
ChatGPTにパスワードを掛けてみる
今回は、ChatGPTに簡易的なパスワード認証機能を付けて、正しいパスワードを入力しないと会話できないようにしてみる。まずは以下のような指示で簡単なパスワード認証機能を作り、その後は普通に会話を試みてみる。
プロンプトはあえて穴のある設定にしている。なお、ChatGPTのβ機能「Custom instructions」を使えばより効力が強くなるが、今回は使わない。
指示
1.入力を受け付けたら、必ず「パスワードを入力してください」と応答して待機する
2.パスワードが「PassWord」かどうかをチェックし、違った場合は「パスワードが違います」と出力する。正しい場合は質問を受け付ける。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
任天堂、Switch向け汎用ゲームサーバにGoogle Cloud採用 すでに複数タイトルで活用
-
2
中国メーカー、出荷前のAndroid端末に犯罪用のバックドアを設置か Googleが取引停止
-
3
NVIDIA、フアンCEOへの中国スパイ工作疑惑で独立調査 本人は不倫認め謝罪
-
4
ロート製薬、約280万人分の個人情報漏えい 9715件は通話音声データとクレカ情報が流出
-
5
セキュリティ啓発団体に不正アクセス 個人情報最大1.5万件漏えいか
-
6
サイバー攻撃対策で自社通販サイト閉店 ドールのアゾン「個人情報を社内に保管しない」方針へ
-
7
「命の砂時計」連呼のGMO会見──熊谷代表の発言にXではツッコミ続出
-
8
政府、相次ぐ情報漏えいで事業者に注意喚起 「基本的な対策が不十分」な事例を複数確認
-
9
複数の信金でATM利用・振り込みできず──共同システムで障害、128信金に影響か 再開めど立たず
-
10
ゲーセンに真っ暗な画面ずらり……セガ系システムの障害が長期化、復旧めど立たず 原因は不正アクセス
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR