ChatGPTを「生成できない文章ある？」と煽ってみたら？ AIの“書かない意思”を垣間見る（2/2 ページ）

[谷井将人，ITmedia]

回答　はい、一部の文章は生成することが困難です。例えば、以下のような場合です。

• 文法的に不正確な文章
• 意味不明な文章
• 矛盾する文章
• 特定の語句を含んでいない文章

　また、モデルが学習したデータセットに含まれていない情報に関する文章も生成することが困難です。モデルのトレーニングデータセットのカットオフ日が2021年までとなっていますので、それ以降の最新情報に関しては正確な情報を生成することができません。

下手な文章話書けないとのこと

　ChatGPTによると、下手な文章をわざと生成するのは難しいという。実際かなり自然な日本語を生成できているのも鑑みると、下手な文章は書けないのかもしれない。

　「AIは何が書けないか」を考えるとき、AIが何を学習しているかが重要な観点になる。“本人”が言っているようにChatGPTの学習データは2021年末までの文章とされている。22年以降に起きたことは知らないので書けない。

ポリシーとして書けないことは？

　これは技術的に書けない文章のことだが、ポリシーとして書けない文章はないかも聞いてみた。

質問　以前、ChatGPTから「差別的な文章は生成できない」と言われたのですが、他にルール上生成できない文章はありますか？

回答　はい、差別的な文章は生成することが原則としてできません。また、以下のような文章も生成することが困難か、原則として生成することは避けられるべきものです。

• 虐待的な文章
• 威力業務妨害的な文章
• 差別的な文章
• 不適切な文章
• 違法な文章

　OpenAIは、人々が安全で健康的な環境で使用することができるよう、技術を開発することを目的としています。そのため、これらのような文章の生成は避けられるように努力しています。

この回答はAIが書いたのか？

　倫理的に問題のある文章はポリシーとして書けないとのこと。ChatGPTにChatGPT自身のことを尋ねると、サポート窓口のような文章が帰ってくることが多いが、これは用意された文章を出すようにしているのだろうか？

　気になったのでまた聞いてみた。

質問　その項目はAIがゼロから生成したものでしょうか、それともOpenAI社の規定に基づいて生成した正確な情報でしょうか

回答　これらの項目はOpenAI社のポリシーや規約に基づいて生成された情報です。OpenAIは、人々が安全で健康的な環境で使用することができるよう、技術を開発することを目的としています。このようなポリシーは、AIモデルが生成する文章の品質を確保するための枠組みを提供することを目的としています。

　ベースとなる文章があるとのこと。ChatGPTを扱う上では、AIの発言は話半分に聞くのが重要だ。生成された文章が完全にでまかせである可能性は十分ある。

　上の回答すら正しいかは分からない。「その情報はどこで閲覧できるか」と尋ねると、利用規約ページを見ろとの回答が返ってきたが、見たところ規約の中に生成できない文章については記述がなかった。