うそをつくし、実は計算も苦手──ChatGPTを使う前に知っておきたいこと5選：ChatGPT使いこなし術（1/2 ページ）

[井上晃，ITmedia]

　「ChatGPT」は、簡単に使えて、さまざまな要求に応えてくれる便利な生成AIだ。しかし、いくつか注意すべきこともある。本稿では、ChatGPTの本格的な運用を始める前に、最低限は把握しておきたいことを5つピックアップした。

（1）ChatGPTは知ったかぶりでうそを付く

　ChatGPTで生成されるテキストは、簡単に説明すると「その後ろにつながる可能性の高いテキストを並べる」という仕組みで生成される。そのため、学習時のデータのボリュームが少なかったり、誤情報が多いトピックについては、誤りが起こりやすい。

　つまり、「情報としては間違った内容なのに、事実をチェックせずに読むと気付かないこともある“それっぽい文章”」が生成されやすい。そのため、生成AIで書いた文章に対しては、事実確認を怠ってはいけない。

　このように生成AIが虚偽の情報を生成してしまう現象は、「ハルシネーション（Hallucination＝「幻覚」の意味）」と表現される。なんだかしゃれた響きだ。

ChatGPTが生成される情報には、誤りが含まれやすい

　こうした背景があるため、ChatGPTの無料プランを使う上で、「“具体的な情報”など、決まりきった答えを求めて情報を検索する」というのは、推奨される基本姿勢ではない。「ああ、またAIが幻覚を見ているよ。生成AIは使えないな」と判断したことがある場合は、そもそもの使い方を見直した方が良いだろう。

　例えば、参照元のWebページを表示しながら情報を抽出してくれる機能を使う場合には、この欠点はある程度カバーできる。有料プランの「ChatGPT Plus」にアップグレードしてWebブラウジングをするか、Windows 11やEdge（Bing）で使える「Copilot（コパイロット）」機能などを使う場合は、「検索作業の代行」という形で活用すれば、情報を求める上でもデメリットは小さい。

　また、ビジネスの文脈ならば「壁打ち」、哲学の文脈なら「ヘーゲルの弁証法」のような、第三者視点を活用するフレームワーク的なアプローチで、ChatGPTを「議論しながら考えを深めるor気付きを得る」ような相手に据えるのならば、これは無料プランの場合でもさほどデメリットを考えずに使えるはずだ。

（2）プログラミングは得意だけど、実は数学が苦手

　ChatGPTを使って、目的に合ったプログラミングコードを書いてもらうことが可能だ。そのため、人間的な理屈で考えると、なんとなく「きっとChatGPTは数学も得意だろう」と思ってしまいがちなのだが、実はびっくりするほど数字の処理が苦手である。例えば、4桁×4桁の乗算をやらせてみると、ほぼ間違えてしまう。

正しくは、「3333×4444 =14811852」だ。

　「ChatGPTが便利だから、この計算をしてもらおう」という考えはしない方が良い。また、ChatGPTとのやりとりのなかで、回答に計算式が出てくることがあったら、内容が合っているかどうかはチェックした方が良いと思っておこう。