X日本法人、“性的加工”で波紋のAI「Grok」巡り警告　違法者はアカウント凍結＆法的措置も

　米Xの日本法人であるX Corp. Japanは1月6日、Xで利用できる生成AI「Grok」で違法なコンテンツを作成しないよう警告した。違反者には、アカウントの永久凍結などの措置を取る可能性がある。Xでは2025年12月末ごろから、Grokの画像編集機能を利用し、実在する女性の写真などを無断で性的に加工する事例が相次いでいた。

　Xの安全性に関する情報を発信する公式アカウント（@Safety）が4日に投稿した英文の内容を翻訳する形で、日本のユーザーに注意喚起した。違法コンテンツを含む投稿に対しては、削除やアカウントの永久凍結などの対応に加え、行政や法執行機関とも協力して対応する場合もある。Grokで該当するコンテンツを作成したり、作成を促したりした場合も同様としている。

　Xでは、暴力や嫌がらせなどの行為を規約で禁じており、例えば「暴力的な発言」「児童の性的搾取」「ヘイト行為」「センシティブなメディア」「個人情報」「合意のない裸体の描写」などを投稿しないよう明記している。今回の警告でも、Xによる不適切な投稿の削除やアカウントの凍結といった強制措置に関する規約と共に確認するよう呼び掛けている。

　Grokによる画像の性的な加工を巡っては、日本でも一部のアイドルやコスプレイヤーの写真を無断で水着姿にするといった行為が相次いでいた。これを受け、AKB48グループのアイドルグループ「STU48」は5日、メンバーをモデルとしたAI生成画像や動画などをSNSに投稿しないよう注意喚起していた。

X Corp. Japanの警告全文（出典：公式Xのポスト）

印刷する

SNSでシェア

関連記事

• 

  「メンバーのAI画像・動画を削除して」――AKB48グループ「STU48」が注意喚起　“炎上元”の漫画家は謝罪

• 

  「Grok、この女性をビキニ姿にして」　AIで画像の“性的加工”相次ぐ　マスク氏は違法コンテンツに警告

• 

  Xに画像の“AI加工機能”出現　他人のポストでも、1クリックで画像編集　「最悪なシステム」と物議に

• 

  「Grok 4.1」リリース　感情表現や対話能力を強化、ユーザー選好度も向上

• 

  Xの“AIコンパニオン”に新たな美女キャラ「Mika」　24歳のバイク乗りお姉さん

こんなメディアも見られています

ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

エネルギーの専門メディア

スマートジャパン

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン