OpenAI、GPT-4の活用で人間のコンテンツモデレータの負担軽減が可能と主張
米OpenAIは8月15日（現地時間）、「Using GPT-4 for content moderation」（コンテンツモデレーションにGPT-4を活用する）と題するブログを公開した。コンテンツポリシーの開発とモデレーションにGPT-4などのLLM（大規模言語モデル）を使えば、ラベル付けの一貫性が高まり、迅速なポリシー改善が可能になり、人間のモデレータの関与を軽減できると主張している。
問題のあるコンテンツを判定し、ラベル付けするために、多数の人間が低賃金で長時間、暴力的など問題のあるコンテンツを視聴させられることが問題になっている。
OpenAIは、こうした問題に対処するためにLLMの使用を検討しているという。GPT-4は自然言語を理解して生成するので、モデレーションに適用できるとしている。GPT-4のシステムを使えば、コンテンツポリシーの開発とカスタマイズにかかる時間が、従来の数カ月からわずか数時間に短縮できるという。ブログではその例を紹介している。
コンテンツポリシー開発プロセスの例
米Metaや米Googleも既に、コンテンツモデレーションで人間だけでなくAIを使っていると明らかにしているが、そうした企業はいずれもシステムが不完全であることを認めている。
OpenAIも、「言語モデルによる判断は、トレーニング中にモデルに導入された可能性のある望ましくないバイアスに対して脆弱だ」と認めている。「他のAIアプリと同様に、結果と出力は、人間を常に関与させて注意深く監視、検証、改良する必要がある」としている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
メルカリ、梨の転売疑惑に「盗品の出品は確認されず」 誹謗中傷には利用制限も
-
2
Anthropic、「Claude Opus 5」公開 Fable 5に迫る性能を半額で――サイバー安全策は緩和、拒否時は自動フォールバックも
-
3
「iPhone高騰」はこれからも続く？ 中国CXMTに近づくApple、メモリ競合へのけん制が不発に終わりそうなワケ【後編】
-
4
「ニューロマンサー」実写ドラマ、Apple TV+で2027年1月配信開始へ
-
5
検索結果に「詐欺ではありません」と表示させる詐欺手口、警視庁が注意喚起 AI要約も餌食に
-
6
「こんなのに追われたら……」急斜面もやすやす爆走、中国製の車輪付き四足ロボのデモ動画が話題 最高時速20km超
-
7
海外の新作バカゲー「電車アタック」にマンガ家が感心した理由 ブッ飛んだ内容と完成度の高さ、そして“日本”
-
8
「めっちゃカメレオン」公式Discord乗っ取り 担当者PCがマルウェア感染、管理者が全員BANに 現在は復旧
-
9
暑さ対策が熱い！ 「猛暑対策展」で感じた、転んでもただでは起き上がらない日本人のエネルギー
-
10
スーパーに並んだ「ごちゃごちゃ生成AIポップ」が物議 “看板王”こと、きぬた歯科院長「これはアリ」
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR