OpenAI、ディープフェイク対策ツール「DALL・E Detection Classifier」のテスト開始

OpenAIは、「DALL・E 3」で生成した画像かどうかを検出するためのツール「DALL・E Detection Classifier」の外部によるテストを開始した。内部テストでは生成画像の約98％を識別できたとしている。「Voice Engine」への音声透かし組み込みもテスト中だ。

[ITmedia]

　米OpenAIは5月7日（現地時間）、同社の画像生成AI「DALL・E 3」で生成した画像かどうかを検出するためのツール「DALL・E Detection Classifier」を発表した。少数の研究者グループと、現実世界でのツールのテストを実施するとし、アクセス申請を受け付けている。

　このツールの初期版の内部テストでは、DALL・E 3で生成された画像の約98％を正しく識別したという。圧縮やトリミング、彩度変更が成されたものでも識別できるが、それ以外の変更ではパフォーマンスが低下する可能性があるとしている。また、DALL・E 3以外の画像生成AIで生成した画像の識別でもパフォーマンスが低い。

（画像：OpenAI）

　OpenAIはまた、3月に発表した人の声を再現できる生成AIモデル「Voice Engine」に音声透かしを組み込み、限定的な調査プレビューを実施していることも発表した。

　同社はさらに、デジタルコンテンツの来歴証明技術の標準化団体C2PA（Coalition for Content Provenance and Authenticity）に参加したことも発表した。C2PAは、コンテンツの出どころや関連情報を埋め込むオープンなメタデータの標準化を目指す、2021年設立の業界団体。Adobe、BBC、Intel、Microsoft、Publicis Groupe、ソニー、Truepic、Googleなどが運営委員会に参加している。