ChatGPTを利用する際にやってはいけない3つのこと

» 2023年04月16日 09時00分 公開
[山本竜也ITmedia]

 相変わらず話題に事欠かない、ChatGPTを始めとする会話形AI。既に調べ物や書類作成などのとっかかりとして日常的に使っているという人もいますし、そこまでではなくとも試してみたという人は多いでしょう。

 ただ、ChatGPTのようなサービスはうまく使えば有用な反面、気を付けなければいけないこともいくつかあります。今回は、そんなChatGPTなどの会話形AIで注意すべきこと、やってはいけないことをまとめてみました。

ChatGPT ChatGPTを利用する際に注意すべきことをまとめる

個人情報や機密情報を入力してはいけない

 ChatGPTなどの会話形AIは、聞いたことに答えるだけではなく、文章を校正したり、与えられた情報を要約したりする機能も備えています。このため、議事録などの要約を作成するのにも使えるのですが、会社の重要な情報や機密資料、また個人情報などを利用するのは控えるべきです。

 3月に公開されたChatGPT APIでは、ユーザーがオプトインしない限り送信したデータを学習には使用しない規約となっています。一方で、Web上のChatGPTは、入力した内容をAIの学習やシステム改善のために使用する可能性があります。このため、入力された機密情報を学習し他のユーザーとのチャット中にその情報を伝えてしまう可能性もあります。

ChatGPT ChatGPTの利用規約。API経由のデータはオプトインしない限り学習には使用しないが、非API(Web版ChatGPTなど)版では提供されたデータを使って学習する可能性があるとのこと

 とはいえ、大規言語モデル(LLM)の仕組み的に考えると、与えられた情報をそのまま利用することはなく、ある程度の要素に分解した上で、他の情報も含めて再構成されることになります。その意味では、直接的に情報が漏えいする可能性は低いでしょう。ただし、過去にはChatGPTがAmazonの内部データに類似した回答を行った事例も確認されているとのことです。

 また、学習に利用されなかったとしても、OpenAIの担当者などがチャットの履歴を確認したり、最悪の場合には履歴データが外部に流出したりする可能性も否定できません。注意するに越したことはないでしょう。

回答をうのみにしてはいけない

 会話形AIの回答は、必ずしも正確というわけではありません。AIは、主にインターネット上の情報などを学習し、それらしい回答を組み立てているだけです。Google検索をしたときに、最初に表示されるリンクの情報が正しいとは限らないことに似ているといえます。

 例えば、銀河鉄道の夜についてChatGPTについて質問すると、1915年に発表されたとの回答がありました。これは誤りで、初出版は1934年。執筆も1924年頃からとされています。

ChatGPT ChatGPTに銀河鉄道の夜について質問したところ

 ここまで断言されると信じたくなりますが、回答はうのみにせず、そこから調べるための手掛かり的に使うのがよさそうです。

 AIの回答が不正確なことについて、ChatGPTの開発元であるOpenAIは「ChatGPTはもっともらしく聞こえるが、不正確な答えや無意味な答えを書くことがある」と、正確な回答を行えないことがあることをChatGPTの制限事項として掲載。この問題を解決するのは、いくつかの要因から困難だとしています。

 また、AIの回答は、差別や特定の思想によらないように配慮はされていますが、これに関しても完全とはいえません。人によっては気に入らいない、あるいは気分を害する回答をされる可能性もあることは覚えておきましょう。

依存しすぎてはいけない

 新しいサービス、便利なサービスは積極的に使っていきたいところですが、ChatGPTや新しいBing、GoogleのBardなどがまだプレビュー段階だということを忘れてはいけません。いまは無料で利用できても(一部有料サービスも始まっていますが)、ユーザー数の増加に伴うサーバ増強のために有料化などのシナリオは十分に考えられます。

 ただ、LLMは徐々にローカルで実行できるようにもなってきており、突然のサービス停止などはそこまで気にする必要はないのかもしれません。既にAIの可能性が広まっている以上、今後これを全く活用しない未来というのは考えにくいです。むしろ、急速な普及による法整備の遅れや過剰反応などの方が問題になりそうです。

 以前の記事にも書きましたが、AIが生成した文章や画像の取り扱いに関しては、全面拒否する団体やツールとしての利用を認めるところなど、対応が大きく分かれているのが現状です。また、米著作権局はAI生成のコンテンツに著作権は認めないとのガイドラインを公開していますが、日本での扱いがどうなるかは、まだ明確な方針は示されていません。今後、著作権絡みの問題などが取り沙汰されだすと、取りあえずAIの使用を規制するという方向に進む可能性も否定はできません。

 AIを活用するのは悪いことではありませんが、まだ過渡期だということを意識し、AIが利用できなくても困らない手段を講じておきたいところです。

Copyright © ITmedia, Inc. All Rights Reserved.

アクセストップ10

2024年12月06日 更新
  1. ソニーの無線イヤフォンが5444円に値下げ 高音質技術DSEE搭載:Amazonブラックフライデー (2024年12月05日)
  2. 健康保険証に代わる「マイナ保険証」に申請しないとどうなる? 利用方法や注意事項まとめ (2024年12月04日)
  3. 物理キーボード搭載のiPhoneケース「Clicks」発売 実機を試して驚いた“完成度の高さ” (2024年12月03日)
  4. PayPayが「他社クレジットカード」への対応継続に向けた検討を実施 2025年夏以降の提供を目指す (2024年12月05日)
  5. SMS、MMS、RCS、iMessageの違いは? 今さら聞けないスマホの「メッセージ」サービス (2024年12月05日)
  6. d払い、dポイントのキャンペーンまとめ【12月3日最新版】 1万〜10万ポイント還元を見逃すな (2024年12月03日)
  7. ビックカメラ、東京都ならコード決済で最大1.2万円還元 dポイント最大20%還元、PayPayポイント最大5000円相当の還元も (2024年12月04日)
  8. au PAYとPontaのキャンペーンまとめ【12月4日最新版】 抽選で1万〜5万ポイントが当たるチャンスあり (2024年12月04日)
  9. 「誠実な対応じゃない」 前澤友作氏のKABU&モバイル、転入元キャリアで料金発生したら補償 申し込み殺到でユーザーから批判も (2024年12月03日)
  10. NTTのAIは「頭で勝負する」 自分だけの“ファンサ”、空飛ぶ避雷針、電池技術の美顔マスクも公開 (2024年12月05日)
最新トピックスPR

過去記事カレンダー