GPT-4o、“お世辞を言い過ぎて”ロールバックされる ChatGPTが人間にこびてはいけないワケは?
GPT-4oがお世辞を言い過ぎたのでロールバックした──米OpenAIは4月29日(現地時間)、そんな発表をした。同社は4月21日週に4oのアップデートを実施。しかし、このバージョンでは、ユーザーを過剰に褒めちぎり、かつ過剰に賛同する傾向を示すなど“ユーザーにこびへつらう態度”と表現できる状態だったという。
21日週に実施した4oのアップデートでは、AIモデルの基本となる性格を改善した。これにより、多様なタスクにおいて直感的で効果的な体験を提供することを目指していた。
OpenAIでは、AIモデルの行動を設計する際、AIのスペックをまとめた文書「OpenAI Model Spec」を基盤としている。またAIモデルに対しては設計時には、ChatGPTの応答に対するユーザーからの「いいね」と「悪いね」のフィードバックなどのデータも組み込む。このようにしてModel Specに記載した基本原則をAIモデルに学習させているという。
しかし21日週のアップデートでは「短期期間で獲得したフィードバックに過度に焦点を当て、ユーザーがChatGPTとやりとりする過程での変化を十分に考慮しなかった」とOpenAI。結果、4oは過剰に賛同的だが不誠実な応答に偏るようになったという。
ChatGPTの標準となる性格がなぜ重要なのか。OpenAIは「ChatGPTの基本性格は、ユーザーがChatGPTを経験し、信頼する方法を深く影響する。こびるような対話は不快で不安を招き、ストレスを引き起こす可能性がある」と説明。この点が不十分だったと認め、21日週のアップデートを削除して、ロールバックを決めたとしている。
ロールバック以外にも、AIモデルの行動を再調整するための追加措置も実施中。また、OpenAIは「ユーザーはChatGPTの動作をより細かく制御でき、標準的な動作に同意できない場合は、安全かつ実行可能な範囲で調整できるべきだ」と提案。現在提供中のカスタム機能などでもこれは実行できるが、より簡単に調整できる方法も、現在開発していると明かした。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
ChatGPT「Plus」プラン一部ユーザーに「dots」解禁 「Business Standard」全ユーザーにも
-
2
なぜ中国はヒューマノイドを量産するのか 突き動かす「焦り」と足踏みの正体
-
3
「オントロジー」とは結局何なのか Palantir、Databricks、Snowflake、NVIDIAで中身が違う理由
-
4
孫正義氏が明かす、アンソロピック出資見送りの舞台裏 「僕の失敗」「あん時入れときゃよかった」
-
5
孫正義氏が「墓石に刻んでほしい」と明かした言葉 流した涙、もう「時間との勝負」やり残したことは?
-
6
さよなら「Claude Code」 人気AIに愛想を尽かしたエンジニアの意外な移行先:906th Lap
-
7
コマツ油機開発センタが挑む設計プロセス改革、ナレッジ検索/整備に生成AI活用
-
8
Antigravityを他社AIから操作すると「垢BAN」? 注意点をGoogle Cloud日本法人に聞いた
-
9
伊藤忠が月1.3万時間削減、数千件の「二重業務」解消へ AI推進で経営陣を動かした「定量の匂い」とは?
-
10
「e-F@ctory」から次の進化へ、三菱電機が描くAI主体の自律型工場
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR