「Grok、この女性をビキニ姿にして」 AIで画像の“性的加工”相次ぐ マスク氏は違法コンテンツに警告（1/2 ページ）
2025年末から、X上で利用できる生成AI「Grok」を使い、実在する女性の写真などを、本人に断りなく性的に加工する事例が相次いでいる。例えば、コスプレイヤーの画像に対し「服装をビキニにして」と指示するといった具合だ。画像を加工されたユーザーからは不快感を示す声が続出。英Reutersなどの報道によれば、海外では政治家や行政機関が動く事態にもなっているという。
騒動の原因は、Grokの公式アカウントにメンションするなどして利用できる画像編集機能。例えばコスプレイヤーやモデルが投稿した画像にリプライする形で「＠Grok 服装を○○に変えて」などと指示し、性的な画像を本人の同意なく出力させる例が見られる。芸能人をはじめ、政治家などを対象にした指示も少なくない。
Grokの公式アカウント。このアカウントにメンションしてプロンプトを入力するといった方法で画像が加工できる
指示のイメージ（記者のアカウントで、下書き欄を使用して作成）
中にはあえて自分の写真を性的に加工したり、それを誘うような投稿をしたりして、耳目を集める人も見られる。ただし、基本的には自身の写真を勝手に加工されることを嫌う人が多く、同様の行為に批判が集中している。
Reutersによれば、同様の行為は海外でも見られ、中には未成年を対象にした事例もあるという。問題を踏まえ、フランスでは1月2日（現地時間、以下同）に閣僚が検察当局や規制当局に報告した他、インドでもIT関連の省庁がXの現地法人に書簡を送ったと報じている。
イーロン・マスク氏は問題を受け、4日に「Grokを使って違法なコンテンツを作成するユーザーは、違法なコンテンツをアップロードした場合と同様の結果を被ることになる」と自身のXアカウントで警告。一方で、自身やベネズエラのニコラス・マドゥロ大統領を水着姿にした画像を面白がるような投稿もしている。
マスク氏や、Xの公式アカウント「Safety」の呼び掛け（同アカウントの投稿から一部抜粋）
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
個人向けGeminiのモデル選択が厳格化 無料ユーザーが使えるのは「Flash-Lite」のみに
-
2
「OpenAIの文化は壊れている」──安全性報告書を統括した従業員が退社し、寄稿
-
3
総額2.3兆円、千葉市に巨大な「AIデータセンター」建設へ 発電大手JERA参画の“ドリームチーム”、勝機どうつかむ？
-
4
人手不足だからAIを使いたい、でも導入できる人がいない 中小企業“一人情シス”の葛藤
-
5
Google「AI Plus」4割値下げ、月725円に ストレージ倍増、価格攻勢でシェア拡大へ
-
6
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
7
「FDE」は常駐SEのすげ替えなのか “人月商売の死”を打破したい国内SIer、打開策は意外なところに？
-
8
「DMに逃げる理由は秘密保持ではない」 人とAIエージェントの“最強チーム”を作るベストプラクティス
-
9
国産AI「LLM-jp-4」ベースのAIモデル、KDDI傘下のELYZAが無料公開
-
10
「Claude」3倍高速化の裏で、Anthropic開発者が「あえてしなかったこと」：899th Lap
SpecialPR
ITmedia AI＋ SNS
@itm_aiplusをフォロー
インフォメーション
注目情報をチェック
ITmedia AI＋をフォロー
あなたにおすすめの記事PR