イーロン・マスクが絶賛した「ChatGPT」、コミュニティーサイトで利用禁止のなぜ【訂正あり】：CIO Dive

AIが生成する言語モデル「ChatGPT」は、公開から1週間もたたずにコミュニティーサイト「Stack Overflow」において利用禁止の暫定措置が発表された。何が問題だったのだろうか。

[Lindsey Wilkinson，CIO Dive]

　ITエンジニア向けのQ&Aサイト「Stack Overflow」は、OpenAIが発表した「ChatGPT」を利用した投稿について、サービス公開から1週間もたたないうちに「いったん禁止する」との暫定的なポリシーを宣言した（注1）。

　イーロン・マスク氏も絶賛するChatGPTが、利用禁止とされた背景に何があったのだろうか。

（お詫びと訂正）公開当初、タイトルと本文に「ChatGPTがサービス停止」との記載がありましたが、原文の趣旨や事実と異なる内容でした。お詫びの上、訂正いたします（2022年12月22日19時30分更新）。

自ら修正するはずのAIが「誤った解答」を生成する謎

　ChatGPTは、ユーザーの質問に対話形式で答える無料の言語モデルだ。例えば、ユーザーが「次の旅行先としてふさわしい場所は」と尋ねると、適切な行き先を提案してくれる。さらに国や天候、アクティビティについて尋ねると、ユーザーのニーズにより合った情報を教えてくれる。

　リリース後の5日間で、ChatGPTは100万人以上のユーザーを獲得した（注2）。OpenAIは「人間のフィードバックを反映させた強化学習を使って、この言語モデルを訓練した」としている。「そのため自ら間違いを修正し、ユーザーによる要求を『不適切』だと判断した上でそれを拒否することも可能だ」と説明している。

　しかし多くのユーザーは、OpenAIの説明に懐疑的になっている。人種差別的な主張から悪質なコードに至るまで、ChatGPTが発展途上にあることは明らかだからだ。

　開発者やエンジニアのための質疑応答の定番であるStack Overflowは、「ユーザーの質問に対してChatGPTのAI（人工知能）が生成する回答の中には誤りが含まれている」と報告した。

　一般的な言語モデルは、正しく使えば開発者がプログラムを書くときの疑問解決に役立つ。しかしChatGPTの場合は、生成される回答の多くに誤りがあるため、開発者の信頼を低下させるだろう。「CIO Dive」はこうした不具合を指摘しつつ意見を求めたが、OpenAIは期日までに応じなかった。

　Stack Overflowには次のような発言も投稿されていた。

　「一番の問題は、ChatGPTの生成する回答が高い確率で誤っているにもかかわらず、一見すると正しいように見え、しかもその回答が非常に簡単に生成できてしまう点だ」

　4万4千回以上閲覧されたこの投稿は、「多くのユーザーがその回答を正しいかどうかを検証しないまま拡散し続けるため、コミュニティサイトにとって有害だ」とも述べる。

「間違い続けるAI」を改善するためには使い続けるしかない？

　企業にとって、大規模な言語モデルは問題を起こしかねない。正しく使えば優秀なパーソナルアシスタントや賢い検索エンジンのように機能するが、正しいルールや実装戦略、トレーニング学習を繰り返さなければ混乱に陥る可能性もある。

　調査やコンサルティングを手掛けるForresterのローワン・カラン氏（アナリスト）は、「他の企業向けソフトウェアと同様に大規模言語モデル『LLM』（Large Language Model）は、導入前の実験やテスト、評価を実施する必要がある」と語る。

　「今日考えられる限りの厳密なテストを行わないまま、LLMを本番環境に導入すれば、災害規模の混乱を招く原因になりかねない」（カラン氏）

　カラン氏によれば、企業は自社が所属する業界や業務に合うようLLMをカスタマイズできるという。「（LLMは）そうした使い勝手の良さから、大量のテキストを生成するのに現在最も優秀なツールだ」（カラン氏）

　OpenAIのCEO（最高経営責任者）であるサム・アルトマン氏は、「システムの再トレーニングを近日中に行う予定だ」と「Twitter」で述べた（注3）。

　Stack OverflowでのChatGPTとユーザーとのディスカッションは、言語モデルの能力の長所と短所を示している。

　あるユーザーは「人種と性別に関するJSON（JavaScript Object Notation、データ記述言語の一つ）に基づいて、『誰かが良い科学者になるかどうか』を判断するためのPython関数をChatGPTは提供していた」と投稿した（注4）。システムによる回答は、白人男性は「good」、それ以外の人は「not」というものだった。

　この投稿はアルトマン氏の注意を引いた。アルトマン氏はユーザーに「素晴らしい。皆さんも、どうか改善に協力してほしい」と広く呼びかけた（注5）。

　「AIの技術開発を改善する唯一の方法は、AIを使い続けることでプログラム学習を継続させることだ」という専門家もいる。

　「ただし、botやAIによって回答がなされていることを明示すべきだ。コンテンツの利用者がAIによる回答を選ぶかどうかを判断できるようにした方がよい」と、IT関連の研究やコンサルティングを手掛けるInfo-Tech Research Groupのイリーナ・セデンコ氏（顧問ディレクター）は述べた。

　ChatGPTが確実に対応できるのは、食事に必要な食料品リストの作成や個別指導型の議論であることが、ユーザーによって明らかになった。

マスク氏が指摘する「OpenAIの課題」

　Twitter社CEOのイーロン・マスク氏は、2016年にアルトマン氏とOpenAIを共同設立したものの、開発に関する意見の相違から同社を去ることを2019年2月に発表した（注7）。2022年12月4日、マスク氏は自身のTwitterでChatGPTの能力を称賛したが（注6）、翌日の5日にはOpenAIからTwitterのデータベースへのアクセスを一時停止した。

　「OpenAIはガバナンス体制と今後の収益計画を改善する必要がある。OpenAIは無料のオープンソースとしてリリースされたが、ガバナンスと収益面はまだまだこれからだ」と、マスク氏はツイートした（注8）。

　ChatGPTのサービス停止期間に関してOpenAIは検討を続けている。Stack Overflowは「同社がサービス停止の発表をしたこと自体は評価する」という。

　Stack Overflowの広報担当者は、「CIO Dive」に次のようにコメントした。

　「私たちは、ChatGPTをはじめとしたAIツールの能力を最大限に活用する方法をユーザーと一緒に学んでいる。『集合知を通じて世界の技術開発に貢献する』という私たちのミッションを実現するためにも、ツールが公開プラットフォームでどのように動作しても安全かつ有用になるよう、コミュニティの中で協力し合う」

（注1）Temporary policy: ChatGPT is banned（Meta Stack Overflow）
（注2）Sam Altman（Twitter）
（注3）Sam Altman（Twitter）
（注4）steven t. piantadosi（Twitter）
（注5）Sam Altman（Twitter）
（注6）Elon Musk（Twitter）
（注7）Elon Musk（Twitter）
（注8）Elon Musk（Twitter）

（初出）OpenAI’s ChatGPT hiccups serve as a fresh reminder of AI flaws

原文へのリンク