「Grok、この女性をビキニ姿にして」　AIで画像の“性的加工”相次ぐ　マスク氏は違法コンテンツに警告（1/2 ページ）

　2025年末から、X上で利用できる生成AI「Grok」を使い、実在する女性の写真などを、本人に断りなく性的に加工する事例が相次いでいる。例えば、コスプレイヤーの画像に対し「服装をビキニにして」と指示するといった具合だ。画像を加工されたユーザーからは不快感を示す声が続出。英Reutersなどの報道によれば、海外では政治家や行政機関が動く事態にもなっているという。

　騒動の原因は、Grokの公式アカウントにメンションするなどして利用できる画像編集機能。例えばコスプレイヤーやモデルが投稿した画像にリプライする形で「＠Grok　服装を○○に変えて」などと指示し、性的な画像を本人の同意なく出力させる例が見られる。芸能人をはじめ、政治家などを対象にした指示も少なくない。

　中にはあえて自分の写真を性的に加工したり、それを誘うような投稿をしたりして、耳目を集める人も見られる。ただし、基本的には自身の写真を勝手に加工されることを嫌う人が多く、同様の行為に批判が集中している。

　Reutersによれば、同様の行為は海外でも見られ、中には未成年を対象にした事例もあるという。問題を踏まえ、フランスでは1月2日（現地時間、以下同）に閣僚が検察当局や規制当局に報告した他、インドでもIT関連の省庁がXの現地法人に書簡を送ったと報じている。

　イーロン・マスク氏は問題を受け、4日に「Grokを使って違法なコンテンツを作成するユーザーは、違法なコンテンツをアップロードした場合と同様の結果を被ることになる」と自身のXアカウントで警告。一方で、自身やベネズエラのニコラス・マドゥロ大統領を水着姿にした画像を面白がるような投稿もしている。

関連記事

• 

  テスラ車にAIモデル「Grok」搭載へ　「遅くとも来週中」とイーロン・マスク氏

• 

  Xに画像の“AI加工機能”出現　他人のポストでも、1クリックで画像編集　「最悪なシステム」と物議に

• 

  “金髪美少女キャラ”効果？　「Grok」がApp Store無料ランキングで1位に

• 

  Xの“AIコンパニオン”に新たな美女キャラ「Mika」　24歳のバイク乗りお姉さん