「Grok、この女性をビキニ姿にして」 AIで画像の“性的加工”相次ぐ マスク氏は違法コンテンツに警告（1/2 ページ）
2025年末から、X上で利用できる生成AI「Grok」を使い、実在する女性の写真などを、本人に断りなく性的に加工する事例が相次いでいる。例えば、コスプレイヤーの画像に対し「服装をビキニにして」と指示するといった具合だ。画像を加工されたユーザーからは不快感を示す声が続出。英Reutersなどの報道によれば、海外では政治家や行政機関が動く事態にもなっているという。
騒動の原因は、Grokの公式アカウントにメンションするなどして利用できる画像編集機能。例えばコスプレイヤーやモデルが投稿した画像にリプライする形で「＠Grok 服装を○○に変えて」などと指示し、性的な画像を本人の同意なく出力させる例が見られる。芸能人をはじめ、政治家などを対象にした指示も少なくない。
Grokの公式アカウント。このアカウントにメンションしてプロンプトを入力するといった方法で画像が加工できる
指示のイメージ（記者のアカウントで、下書き欄を使用して作成）
中にはあえて自分の写真を性的に加工したり、それを誘うような投稿をしたりして、耳目を集める人も見られる。ただし、基本的には自身の写真を勝手に加工されることを嫌う人が多く、同様の行為に批判が集中している。
Reutersによれば、同様の行為は海外でも見られ、中には未成年を対象にした事例もあるという。問題を踏まえ、フランスでは1月2日（現地時間、以下同）に閣僚が検察当局や規制当局に報告した他、インドでもIT関連の省庁がXの現地法人に書簡を送ったと報じている。
イーロン・マスク氏は問題を受け、4日に「Grokを使って違法なコンテンツを作成するユーザーは、違法なコンテンツをアップロードした場合と同様の結果を被ることになる」と自身のXアカウントで警告。一方で、自身やベネズエラのニコラス・マドゥロ大統領を水着姿にした画像を面白がるような投稿もしている。
マスク氏や、Xの公式アカウント「Safety」の呼び掛け（同アカウントの投稿から一部抜粋）
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
現役組み込みエンジニアがAIを業務利用して分かったこと――期待と限界と現実解
-
2
無料で読めるAIエージェントの実践ガイド、Googleが公開 基礎から本番実装まで学べる
-
3
フィジカルAIとヒューマノイドの可能性、PFNの見立てとトヨタのアプローチ
-
4
なぜ「相場の半額」にできた？ 「ヒューマノイド界のトヨタ」目指すZEALSの“したたか”な戦略
-
5
「社内情報をAIに食わせればいい」だけでは足りない、情報検索精度向上の鉄則
-
6
「AIに原始人っぽく話すとトークン65％削減」は本当か？ JetBrainsが検証してみた
-
7
メルカリが明かす「Claude Code全社展開」「シャドーAI対策」を支える仕組み
-
8
「MicrosoftよりGoogle」で6億円削減も？ 舞鶴市、千代田区が明かすIT刷新とAI活用の成功法則
-
9
「オープンな国産モデル」に33Bパラメータの新バージョン 国立情報学研究所
-
10
業務効率に「不満」6割 なのに最も効くのは「生成AI」でも「ツール」でもなかった
SpecialPR
ITmedia AI＋ SNS
@itm_aiplusをフォロー
インフォメーション
注目情報をチェック
ITmedia AI＋をフォロー
あなたにおすすめの記事PR