　米OpenAIは8月15日（現地時間）、「Using GPT-4 for content moderation」（コンテンツモデレーションにGPT-4を活用する）と題するブログを公開した。コンテンツポリシーの開発とモデレーションにGPT-4などのLLM（大規模言語モデル）を使えば、ラベル付けの一貫性が高まり、迅速なポリシー改善が可能になり、人間のモデレータの関与を軽減できると主張している。

　問題のあるコンテンツを判定し、ラベル付けするために、多数の人間が低賃金で長時間、暴力的など問題のあるコンテンツを視聴させられることが問題になっている。

　OpenAIは、こうした問題に対処するためにLLMの使用を検討しているという。GPT-4は自然言語を理解して生成するので、モデレーションに適用できるとしている。GPT-4のシステムを使えば、コンテンツポリシーの開発とカスタマイズにかかる時間が、従来の数カ月からわずか数時間に短縮できるという。ブログではその例を紹介している。

コンテンツポリシー開発プロセスの例

　米Metaや米Googleも既に、コンテンツモデレーションで人間だけでなくAIを使っていると明らかにしているが、そうした企業はいずれもシステムが不完全であることを認めている。

　OpenAIも、「言語モデルによる判断は、トレーニング中にモデルに導入された可能性のある望ましくないバイアスに対して脆弱だ」と認めている。「他のAIアプリと同様に、結果と出力は、人間を常に関与させて注意深く監視、検証、改良する必要がある」としている。

OpenAI、Webデータ収集クローラー「GPTBot」のブロック方法を説明
OpenAIは生成AIトレーニング用データをインターネット上のWebサイトから収集する自社製クローラー「GPTBot」をひっそり紹介し、Webオーナー向けにこのクローラーのブロック方法を説明した。
OpenAIやMetaなどAI大手7社、米連邦政府に「責任あるAI開発」を“自主的に”約束
米連邦政府はAIを手掛ける7社の代表をホワイトハウスに招集し、AIの安全性、セキュリティ、透明性の高い開発に向けた取り組みを支援するため、これらの企業から自主的な取り組みを確保したと発表した。
Microsoft、AIコンテンツモデレーションのTwo Hatを買収　Xboxやマイクラの嫌がらせ対策強化
MicrosoftはAI採用のコンテンツモデレーションを手掛けるTwo Hatを買収した。両社はここ数年、Xbox Liveやマインクラフトのコミュニティから有害コンテンツをフィルタリングする機能で協力してきた。
Facebook、問題コンテンツのモデレーター賃金値上げへ　メンタルケアも
Facebookが、契約社員の最低賃金を値上げする計画を発表した。特に2月に問題視されたコンテンツモデレーターの賃金は他の職種より高くする。さらに、モデレーターにはメンタルケアやコンテンツチェックで利用できるツールも提供する。