X日本法人、“性的加工”で波紋のAI「Grok」巡り警告　違法者はアカウント凍結＆法的措置も

» 2026年01月06日 15時42分公開

[ITmedia]

　米Xの日本法人であるX Corp. Japanは1月6日、Xで利用できる生成AI「Grok」で違法なコンテンツを作成しないよう警告した。違反者には、アカウントの永久凍結などの措置を取る可能性がある。Xでは2025年12月末ごろから、Grokの画像編集機能を利用し、実在する女性の写真などを無断で性的に加工する事例が相次いでいた。

　Xの安全性に関する情報を発信する公式アカウント（@Safety）が4日に投稿した英文の内容を翻訳する形で、日本のユーザーに注意喚起した。違法コンテンツを含む投稿に対しては、削除やアカウントの永久凍結などの対応に加え、行政や法執行機関とも協力して対応する場合もある。Grokで該当するコンテンツを作成したり、作成を促したりした場合も同様としている。

　Xでは、暴力や嫌がらせなどの行為を規約で禁じており、例えば「暴力的な発言」「児童の性的搾取」「ヘイト行為」「センシティブなメディア」「個人情報」「合意のない裸体の描写」などを投稿しないよう明記している。今回の警告でも、Xによる不適切な投稿の削除やアカウントの凍結といった強制措置に関する規約と共に確認するよう呼び掛けている。

　Grokによる画像の性的な加工を巡っては、日本でも一部のアイドルやコスプレイヤーの写真を無断で水着姿にするといった行為が相次いでいた。これを受け、AKB48グループのアイドルグループ「STU48」は5日、メンバーをモデルとしたAI生成画像や動画などをSNSに投稿しないよう注意喚起していた。

X Corp. Japanの警告全文（出典：公式Xのポスト）

「メンバーのAI画像・動画を削除して」――AKB48グループ「STU48」が注意喚起　“炎上元”の漫画家は謝罪
「メンバーをモデルとしたAI画像や動画を削除して」――AKB48グループのアイドルグループ「STU48」を運営するSTUは、このように注意を呼び掛けた。何があったのか。
「Grok、この女性をビキニ姿にして」　AIで画像の“性的加工”相次ぐ　マスク氏は違法コンテンツに警告
2025年末から、X上で利用できる生成AI「Grok」を使い、実在する女性の写真などを、本人に断りなく性的に加工する事例が相次いでいる。英Reutersなどの報道によれば、海外では政治家や行政機関が動く事態にもなっているという。
Xに画像の“AI加工機能”出現　他人のポストでも、1クリックで画像編集　「最悪なシステム」と物議に
Webアプリ版のXなどで12月24日までに、投稿された画像をAIで加工できる機能が実装された。ポストに添付された画像にマウスカーソルを合わせると、右下に「画像を編集」という項目が表示される。
「Grok 4.1」リリース　感情表現や対話能力を強化、ユーザー選好度も向上
xAIは「Grok 4.1」を発表した。新たな手法で創造的・感情的な対話能力を強化したという。LMArenaベンチマークでは推論モードが1位を獲得し、従来モデルよりユーザー選好度が64.78％向上した。幻覚（ハルシネーション）も低減させたとしている。
Xの“AIコンパニオン”に新たな美女キャラ「Mika」　24歳のバイク乗りお姉さん
イーロン・マスク氏率いる米xAIがAIチャットアプリ「Grok」をアップデートし、「コンパニオンモード」に新キャラクター「Mika」を追加した。フライトジャケットにダメージパンツ姿の女性キャラで、「Ani」など既存キャラと同様にコミュニケーションできる。