なぜ? ChatGPTの回答で「ゴブリン」増殖の謎 OpenAIが対策済み(1/2 ページ)
「ChatGPT」の回答で「ゴブリン」の比喩が増殖――そんな珍事件のメカニズムを米OpenAIが突き止めた。原因はChatGPTの人格カスタマイズ機能を作る上での学習過程で、モンスターの名前の出力を高く評価し過ぎたためだった。
発端になったのは、ChatGPTの人格設定の一つ「Nerdy」(オタク)だ。ChatGPTのユーザーは好みの返答スタイルを幾つかの人格から選択でき、オタク人格は知的で遊び心のある文体を促す設定だ。オタク的表現は全回答の2.5%に過ぎなかったが、ゴブリンを含む表現の66.7%をオタク的表現が占めていたという。
OpenAIが強化学習中の出力を調べたところ、ゴブリンや「グレムリン」を含む回答は、オタク人格の学習において高く評価されやすかった。それにより、「GPT-5.1」では「GPT-5」と比較して、ChatGPTの回答に含まれるゴブリンの使用は175%、グレムリンは52%増加していたという。さらに、その評価がその後の学習にも影響を与えたことで、「GPT-5.4」や「GPT-5.5」の回答でもゴブリンやグレムリンが増加した。
OpenAIは3月にオタク人格を廃止し、学習時に生き物の比喩を好む設定を取り除いた。生き物を表す単語を含む訓練データもフィルタリングした。
ただし、GPT-5.5は原因特定前に学習が始まっていたため、「Codex」でのテスト時にも同様の傾向が見つかった。そこでOpenAIはCodex向けに、明確に関連がある場合以外はゴブリンなどの生き物の比喩を使わないよう、開発者プロンプト内に抑制する指示を追加した。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
孫正義氏が明かす、アンソロピック出資見送りの舞台裏 「僕の失敗」「あん時入れときゃよかった」
-
2
孫正義氏が「墓石に刻んでほしい」と明かした言葉 流した涙、もう「時間との勝負」やり残したことは?
-
3
「e-F@ctory」から次の進化へ、三菱電機が描くAI主体の自律型工場
-
4
NotebookLMに公式APIが登場 WebページやYouTube動画の取り込みを自動化でき、MCPでAIエージェントからも使える
-
5
「オントロジー」とは結局何なのか Palantir、Databricks、Snowflake、NVIDIAで中身が違う理由
-
6
コマツ油機開発センタが挑む設計プロセス改革、ナレッジ検索/整備に生成AI活用
-
7
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
8
NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす 「心よりおわび」
-
9
Google、わずか2カ月で4つ目のモデル公開「Gemini 4 Neon」 一部「Fable同等」性能をコスト半分で
-
10
「AIによる鍵の不正利用」を生体認証で防ぐ日立の新技術、サイバー攻撃対策にも
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR