X日本法人、“性的加工”で波紋のAI「Grok」巡り警告 違法者はアカウント凍結&法的措置も
米Xの日本法人であるX Corp. Japanは1月6日、Xで利用できる生成AI「Grok」で違法なコンテンツを作成しないよう警告した。違反者には、アカウントの永久凍結などの措置を取る可能性がある。Xでは2025年12月末ごろから、Grokの画像編集機能を利用し、実在する女性の写真などを無断で性的に加工する事例が相次いでいた。
Xの安全性に関する情報を発信する公式アカウント(@Safety)が4日に投稿した英文の内容を翻訳する形で、日本のユーザーに注意喚起した。違法コンテンツを含む投稿に対しては、削除やアカウントの永久凍結などの対応に加え、行政や法執行機関とも協力して対応する場合もある。Grokで該当するコンテンツを作成したり、作成を促したりした場合も同様としている。
Xでは、暴力や嫌がらせなどの行為を規約で禁じており、例えば「暴力的な発言」「児童の性的搾取」「ヘイト行為」「センシティブなメディア」「個人情報」「合意のない裸体の描写」などを投稿しないよう明記している。今回の警告でも、Xによる不適切な投稿の削除やアカウントの凍結といった強制措置に関する規約と共に確認するよう呼び掛けている。
Grokによる画像の性的な加工を巡っては、日本でも一部のアイドルやコスプレイヤーの写真を無断で水着姿にするといった行為が相次いでいた。これを受け、AKB48グループのアイドルグループ「STU48」は5日、メンバーをモデルとしたAI生成画像や動画などをSNSに投稿しないよう注意喚起していた。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
孫正義氏が明かす、アンソロピック出資見送りの舞台裏 「僕の失敗」「あん時入れときゃよかった」
-
2
孫正義氏が「墓石に刻んでほしい」と明かした言葉 流した涙、もう「時間との勝負」やり残したことは?
-
3
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
4
「オントロジー」とは結局何なのか Palantir、Databricks、Snowflake、NVIDIAで中身が違う理由
-
5
AIの精度が低くて使えない――JA共済連がたどり着いた「AIエージェントの育て方」
-
6
「GLM-5.3-Flash」「DeepSeek-V4.1-Flash-1017」が月3000リクエストまで無料 さくらのAI推論基盤で提供
-
7
「Claude Fable 5」「Mythos 5」全面停止 米政府の指令により Anthropicは早期復旧を宣言
-
8
AnthropicのIPOに応募6倍、OpenAIは調達縮小 AI投資に「選別」の波
-
9
NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす 「心よりおわび」
-
10
ファミマが「AIロボット」本格導入へ 飲料補充に活用、作業時間の約7割を削減
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR