OpenAI、俳優などが加入する労組の圧力を受け、「Sora 2」のディープフェイク対策へ

米国の俳優などが加入する労組SAG-AFTRAは、OpenAIと協力し「Sora 2」のディープフェイク対策を開始したと発表。俳優のブライアン・クランストン氏の音声が無断生成された問題を受け、OpenAIはガードレールを強化した。両者は同意と報酬に基づく倫理的エコシステムを目指す。

[ITmedia]

　俳優や歌手など約16万人が加入する米労働組合SAG-AFTRAは10月20日（現地時間）、米OpenAIなどと協力し、OpenAIの動画生成AIモデル「Sora 2」における音声および肖像の保護を確保するための取り組みを開始したと発表した。タレント業界団体のAssociation of Talent Agents（ATA）なども参加する。

　SAG-AFTRAによると、Sora 2のリリース後、俳優のブライアン・クランストン氏の声と肖像が、同氏の同意や報酬なしに生成された。OpenAIは当初から、声と肖像の使用はオプトイン必須としていたが、「こうした意図しない生成」について遺憾の意を表明したという。その後、OpenAIは声と肖像のコピーに関するガードレールを強化した。OpenAIは、「寄せられた苦情に迅速に対応することを約束している」という。

　新たな枠組みは、連邦法案「NO FAKES Act」を支持する立場を共有し、「持続可能で倫理的なクリエイティブエコシステムの基盤は同意と報酬」としている。

　NO FAKES Actは4月に連邦議会に提出され、現在上下両院の司法委員会で審議中の法案だ。AIで生成された個人の声や肖像などの「デジタルレプリカ」が、本人の許可なく使用された場合に法的な責任を問えるようにするというもの。

　OpenAIが導入するオプトインプロトコルにより、アーティストは自分の声と肖像がAIに使われるかどうかを選択できるようになるという。

　OpenAIのサム・アルトマンCEOは発表文で「OpenAIは、パフォーマーの声や肖像の不正利用から彼らを守ることに深く尽力しています。昨年導入されたNO FAKES Actの早期支持者であり、今後もパフォーマーの権利を守り続けます」と語った。

　Soraによる著名人のディープフェイク動画を巡っては、キング牧師や俳優の故ロビン・ウィリアムズ氏の遺族が苦情を寄せた他、日本のアニメキャラクターの無断使用について日本政府が禁止を要請したと報じられている。