OpenAI、ディープフェイク対策ツール「DALL・E Detection Classifier」のテスト開始

　米OpenAIは5月7日（現地時間）、同社の画像生成AI「DALL・E 3」で生成した画像かどうかを検出するためのツール「DALL・E Detection Classifier」を発表した。少数の研究者グループと、現実世界でのツールのテストを実施するとし、アクセス申請を受け付けている。

　このツールの初期版の内部テストでは、DALL・E 3で生成された画像の約98％を正しく識別したという。圧縮やトリミング、彩度変更が成されたものでも識別できるが、それ以外の変更ではパフォーマンスが低下する可能性があるとしている。また、DALL・E 3以外の画像生成AIで生成した画像の識別でもパフォーマンスが低い。

（画像：OpenAI）

　OpenAIはまた、3月に発表した人の声を再現できる生成AIモデル「Voice Engine」に音声透かしを組み込み、限定的な調査プレビューを実施していることも発表した。

　同社はさらに、デジタルコンテンツの来歴証明技術の標準化団体C2PA（Coalition for Content Provenance and Authenticity）に参加したことも発表した。C2PAは、コンテンツの出どころや関連情報を埋め込むオープンなメタデータの標準化を目指す、2021年設立の業界団体。Adobe、BBC、Intel、Microsoft、Publicis Groupe、ソニー、Truepic、Googleなどが運営委員会に参加している。

印刷する

SNSでシェア

関連記事

• 

  有料版「ChatGPT」に「DALL・E 3」の画像編集ツール追加

• 

  OpenAI、DALL・E 3で生成した画像にCP2Aの電子透かし追加

• 

  Meta、InstagramなどへのAI生成画像投稿のラベル表示、OpenAIなど他社ツールでの画像にも

• 

  Instagram、Facebook、ThreadsのAI生成画像のラベル表示、5月から本格化

こんなメディアも見られています

ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

エネルギーの専門メディア

スマートジャパン

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン