48時間以内にAI生成ポルノ画像を削除しろ──秋元康さんプロデュースのアイドルグループが異例の“公開警告”

インドネシアのアイドルグループ「JKT48」の運営事務局は5日、生成AIを使ってメンバーの画像を性的に加工する事例が報告されたとして、異例の“公開警告”を行った。

[ITmedia]

　秋元康さんが総合プロデューサーを務めるインドネシアのアイドルグループ「JKT48」の運営事務局は1月5日（現地時間）、生成AIを使ってメンバーの画像を性的に加工する事例が報告されたとして、異例の“公開警告”を行った。48時間以内に画像の掲載や拡散などを止めないと、メンバーが法的措置を取る可能性があるとしている。

「JKT48」公式サイト（出典：公式サイト）

　声明によると、メンバーのうち数名が「AI技術の悪用」の影響を受けたという。2025年の年末以降、X上で利用できる生成AI「Grok」を使い、実在する女性の写真などを断りなく性的に加工する事例が相次いでおり、世界中で物議を醸している。

　声明は、そうしたコンテンツを「名誉毀損、侮辱の要素を含む可能性が高く、現在の法令や規則に違反するもの」と断じた上で、当該コンテンツを作成したり、拡散したりした人に対し「直ちに停止し、永久に削除するよう強く要請する」とした。

　さらに、声明の発表から48時間が経過しても当該コンテンツが拡散されていた場合は、被害を受けたメンバーが法的措置をとる可能性を示唆。事務局はそれを全面的に支持し、法律面などでバックアップする構えを見せている。

　なお、告発の対象になる得るケースとして、1）メンバーの顔を模倣したAI生成のポルノ画像を作成した人、2）それらコンテンツを拡散、配布、または宣伝した人、3）該当する素材を拡散したり、悪用するコメント、投稿を行った人、を挙げている。

　JKT48は、日本国外で結成された最初のAKB48グループ。2011年にインドネシアのジャカルタで結成され、電通グループの現地子会社が事務局を運営している。

JKT48運営事務局の“公開警告”

Grokによる翻訳全文