今さら聞けない「ChatGPT」：ビジネスに役立つ使い方と、間違った使い方（2/2 ページ）

[石井徹，ITmedia]

ChatGPTを使う上で気を付けるべきこと

　ChatGPTはその仕組み上、使いこなす上で注意が必要です。ChatGPTと会話をしていると、会話相手に知性や感情があるように思えるときもありますが、現実にはただのプログラムです。ChatGPTを使って間違った判断しないように、注意するべき点があります。

　以下では、一般的な注意をまとめておきます。ChatGPTをWebサイト上で開くときに表示される注意事項は、よく読んでおくことをおすすめします。

ChatGPTは「検索」ではない

　ChatGPTは「検索エンジン」ではありません。無料版の場合は、2021年時点のデータから情報を探索するため、最新の情報やニュースなどは答えられません。

　現代社会では新しい問題が日々生じていますが、ChatGPTはその答えを知りません。なぜなら、ChatGPTはWebの膨大な情報をもとに、質問にもっともらしい回答を返すことしかしないためです。

　ただし、GPTシリーズをベースとした「新しいBing」や、ChatGPT有料版の「ブラウジング機能」などを使うと、検索エンジンのように利用することも可能です。

ChatGPTは「もっともらしいでたらめ」をいうことがある

　最新の情報が正しく表示されない以外にも、ChatGPTのようなチャットAIには課題があります。それは、「ハルシネーション（幻覚）」と呼ばれるものです。チャットAIは、自然な会話を流ちょうに行うことを目的として開発されています。ChatGPTは、正しく答えられない質問に対しても、も堂々と“いかにもありそうなウソ”を述べてしまうという厄介な性質があります。

　例えば、GPT-4で「昭和期までに絶滅した日本の動物について教えて」と聞いた質問では、「ホンシュウウサギ」という実在しない種を紹介し、日本固有種でも絶滅種ではない「シマウマ（Equus quagga）」を絶滅種として挙げています。

　ハルシネーションの頻度はGPT-3.5よりもGPT-4の方が抑えられているように見受けられますが、全くないわけではありません。また、ハルシネーションはGPTベースの「新しいBing」などでも生じることがあります。Bingの回答結果に情報元として表示されたリンクを確認してみると、全く記載されていなかったということもままあります。

　ChatGPTは、知らない分野の下調べを行う際には便利な存在ですが、特に特定分野の知識を問うような質問には、正しい答えが得られる可能性は少ないと考えて扱うべきでしょう。コピー＆ペーストしてレポートを記述するのはおすすめできません。ChatGPTで得られた回答は、検索エンジンや図書館を併用して、確認しましょう。

ChatGPTに個人情報や機微な情報を入力しない

　ChatGPTのWeb版・アプリ版は、研究開発用のプレビュー版として提供されています。ユーザーが入力した内容や応答のデータは、AIモデルを改良するための素材として利用されることがあると明記されています。

　なお、ChatGPTのAPI版や、マイクロソフトが法人向けに提供しているOffice 365 Copilotなどのチャットサービスなど、入力したデータを外部で活用しない方針を明確にしているサービスもあります。

　第三者がOpenAIのAPIを使って提供しているサービスでは、アプリ・サービスの提供者が入力内容などを確認できる場合があります。アプリ提供元の利用規約もしっかり確認しましょう。