「Grok、この女性をビキニ姿にして」 AIで画像の“性的加工”相次ぐ マスク氏は違法コンテンツに警告（1/2 ページ）

2025年末から、X上で利用できる生成AI「Grok」を使い、実在する女性の写真などを、本人に断りなく性的に加工する事例が相次いでいる。英Reutersなどの報道によれば、海外では政治家や行政機関が動く事態にもなっているという。

[ITmedia]

　2025年末から、X上で利用できる生成AI「Grok」を使い、実在する女性の写真などを、本人に断りなく性的に加工する事例が相次いでいる。例えば、コスプレイヤーの画像に対し「服装をビキニにして」と指示するといった具合だ。画像を加工されたユーザーからは不快感を示す声が続出。英Reutersなどの報道によれば、海外では政治家や行政機関が動く事態にもなっているという。

　騒動の原因は、Grokの公式アカウントにメンションするなどして利用できる画像編集機能。例えばコスプレイヤーやモデルが投稿した画像にリプライする形で「＠Grok　服装を○○に変えて」などと指示し、性的な画像を本人の同意なく出力させる例が見られる。芸能人をはじめ、政治家などを対象にした指示も少なくない。

Grokの公式アカウント。このアカウントにメンションしてプロンプトを入力するといった方法で画像が加工できる

指示のイメージ（記者のアカウントで、下書き欄を使用して作成）

　中にはあえて自分の写真を性的に加工したり、それを誘うような投稿をしたりして、耳目を集める人も見られる。ただし、基本的には自身の写真を勝手に加工されることを嫌う人が多く、同様の行為に批判が集中している。

　Reutersによれば、同様の行為は海外でも見られ、中には未成年を対象にした事例もあるという。問題を踏まえ、フランスでは1月2日（現地時間、以下同）に閣僚が検察当局や規制当局に報告した他、インドでもIT関連の省庁がXの現地法人に書簡を送ったと報じている。

　イーロン・マスク氏は問題を受け、4日に「Grokを使って違法なコンテンツを作成するユーザーは、違法なコンテンツをアップロードした場合と同様の結果を被ることになる」と自身のXアカウントで警告。一方で、自身やベネズエラのニコラス・マドゥロ大統領を水着姿にした画像を面白がるような投稿もしている。

マスク氏や、Xの公式アカウント「Safety」の呼び掛け（同アカウントの投稿から一部抜粋）