ChatGPTによる回答をStack Overflowが一時的に禁止 大量のもっともらしいが不正確な回答に対処しきれず

[ITmedia]

　プログラミング関連Q&Aサイトの米Stack Overflowは12月5日（現地時間）、AIチャットボット「ChatGPT」によって生成した回答の投稿を一時的に禁止した。ChatGPTによる回答に間違っているものが多く、「ユーザーにとって実質的に有害」だとしている。

　ChatGPTは、OpenAIが開発した実験的なチャットボットで、コンプリートテキストジェネレーター「GPT-3.5」に基づいている。そのデモ版が1日に無料で公開されて以来、人気が高まっている。

　Stack Overflowによると、ChatGPTが生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いるという。

　数千件にも上るこうした回答の正誤を判断するために「専門知識を持つ誰かが確認しなければならないという事実は、ボランティアベースの品質管理インフラを圧倒した」としている。

　この禁止は、何らかの対処方法を確立できるまでの一時的なものだが、このポリシー変更後にChatGPTで生成したと考えられる回答を投稿したユーザーには制裁を課すとしている。

　問題は、回答がChatGPTで生成されたものかどうかを判断する方法があるかどうかだろう。こうした問題が増えれば、ChatGPTのベータ版提供が停止される可能性もありそうだ。

　ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ、「私は、意見を述べることができません」としつつ「役に立つ回答が生成される可能性があるとは思いますが、そのような回答が正しいかどうかは、専門家が確認する必要があります」との回答だった。