ChatGPTによる回答をStack Overflowが一時的に禁止 大量のもっともらしいが不正確な回答に対処しきれず
質問するともっともらしい回答をくれるOpenAIの「ChatGPT」。プログラミング関連のQ&AサイトStack OverflowがChatGPTで生成した回答の投稿を一時的に禁止した。このAIで生成したとみられる不正確な回答が急増したため。
プログラミング関連Q&Aサイトの米Stack Overflowは12月5日(現地時間)、AIチャットボット「ChatGPT」によって生成した回答の投稿を一時的に禁止した。ChatGPTによる回答に間違っているものが多く、「ユーザーにとって実質的に有害」だとしている。
ChatGPTは、OpenAIが開発した実験的なチャットボットで、コンプリートテキストジェネレーター「GPT-3.5」に基づいている。そのデモ版が1日に無料で公開されて以来、人気が高まっている。
Stack Overflowによると、ChatGPTが生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いるという。
数千件にも上るこうした回答の正誤を判断するために「専門知識を持つ誰かが確認しなければならないという事実は、ボランティアベースの品質管理インフラを圧倒した」としている。
この禁止は、何らかの対処方法を確立できるまでの一時的なものだが、このポリシー変更後にChatGPTで生成したと考えられる回答を投稿したユーザーには制裁を課すとしている。
問題は、回答がChatGPTで生成されたものかどうかを判断する方法があるかどうかだろう。こうした問題が増えれば、ChatGPTのベータ版提供が停止される可能性もありそうだ。
ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか?」と尋ねたところ、「私は、意見を述べることができません」としつつ「役に立つ回答が生成される可能性があるとは思いますが、そのような回答が正しいかどうかは、専門家が確認する必要があります」との回答だった。
関連記事
- 「幸せになるには?」に答えてくれるAI「ChatGPT」 日本語でさまざまな質問に回答 Twitterでも話題
米AI研究企業OpenAIは対話のためのAI言語モデル「ChatGPT」を発表した。テキストで質問を投げかけることで、AIがその回答を表示する。日本語にも対応しており、現在はテスト期間中のため無料で利用できる。 - AIに“W杯を見るための仕事の断り方”を考えてもらおう! 説得文生成AI、限定公開中
最近、画像生成AIが話題だ。しかし世の中にはまだあまり知られていないAIも多く存在する。本連載では面白いAI、癖のあるAIを紹介する。第1回はAI開発を手掛けるデジタルレシピの「W杯を見るために仕事や飲み会を断る」だ。 - 「なぁAI……人生相談があるんだけど」 なんでも答えてくれる「ChatGPT」に50の質問ぶつけてみた
米AI研究企業OpenAIが公開したチャットbot「ChatGPT」が話題になっている。どんな質問にも真面目に参考になる答えを返してくれる。今回はこのAIに「人生相談」「子供の答えにくい質問」「論理クイズ」「数学未解決問題」など、50の質問をしてみた。 - ピクシブ、AIイラストの「完全な排斥は考えていない」 創作コミュニティーとの“共存”模索中
イラスト・小説投稿サービス「pixiv」を運営するピクシブは、AIイラストを巡るITmedia NEWSの取材に対し「AIが関与した成果物の完全な排斥は考えていない」と答えた。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.