X日本法人、“性的加工”で波紋のAI「Grok」巡り警告 違法者はアカウント凍結＆法的措置も

米Xの日本法人であるX Corp. Japanは、Xで利用できる生成AI「Grok」で違法なコンテンツを作成しないよう警告した。

[ITmedia]

　米Xの日本法人であるX Corp. Japanは1月6日、Xで利用できる生成AI「Grok」で違法なコンテンツを作成しないよう警告した。違反者には、アカウントの永久凍結などの措置を取る可能性がある。Xでは2025年12月末ごろから、Grokの画像編集機能を利用し、実在する女性の写真などを無断で性的に加工する事例が相次いでいた。

　Xの安全性に関する情報を発信する公式アカウント（@Safety）が4日に投稿した英文の内容を翻訳する形で、日本のユーザーに注意喚起した。違法コンテンツを含む投稿に対しては、削除やアカウントの永久凍結などの対応に加え、行政や法執行機関とも協力して対応する場合もある。Grokで該当するコンテンツを作成したり、作成を促したりした場合も同様としている。

　Xでは、暴力や嫌がらせなどの行為を規約で禁じており、例えば「暴力的な発言」「児童の性的搾取」「ヘイト行為」「センシティブなメディア」「個人情報」「合意のない裸体の描写」などを投稿しないよう明記している。今回の警告でも、Xによる不適切な投稿の削除やアカウントの凍結といった強制措置に関する規約と共に確認するよう呼び掛けている。

　Grokによる画像の性的な加工を巡っては、日本でも一部のアイドルやコスプレイヤーの写真を無断で水着姿にするといった行為が相次いでいた。これを受け、AKB48グループのアイドルグループ「STU48」は5日、メンバーをモデルとしたAI生成画像や動画などをSNSに投稿しないよう注意喚起していた。

X Corp. Japanの警告全文（出典：公式Xのポスト）