木原官房長官、XのAI「Grok」による“性的加工”被害に言及 政府の対応は？

[ITmedia]

　木原稔官房長官は1月6日の記者会見で、Xで利用できる生成AI「Grok」による写真の性的加工被害に言及し、政府の対応方針を示した。Xでは2025年12月末ごろから、Grokの画像編集機能を利用し、実在する女性の写真などを無断で性的に加工する事例が相次いでいる。

会見の様子（出典：首相官邸公式サイト）

　記者からGrokによる被害への対応を聞かれた木原官房長官は、関連する報道は確認しているとする一方、具体的な対策については「個別企業のサービスに関するもののため、現時点でのコメントは差し控える」とした。他方、政府による性的ディープフェイクの実態調査の知見なども生かし、「関係省庁が連携しながら適切に対応する必要がある」との認識を示した。

　また、米Xも対象事業者に指定されている「情報流通プラットフォーム対処法」にも言及した。同法では、対象事業者に対し、削除要請があった違法・有害情報について、対応の迅速化や運用状況の透明化などを義務付けている。木原官房長官は「インターネット上の権利侵害における被害者の救済を円滑にするための手続きを創設し、事業者の自主的な取り組みを促している」と同法の枠組みでの対策も強調した。

　Grokによる画像の性的な加工を巡っては、日本でも一部のアイドルやコスプレイヤーの写真を無断で水着姿にするといった行為が相次いでいた。これを受け、AKB48グループのアイドルグループ「STU48」は5日、メンバーをモデルとしたAI生成画像や動画などをSNSに投稿しないよう注意喚起。Xの日本法人であるX Corp. Japanも6日、Grokで違法なコンテンツを作成しないよう警告していた。

STU48の注意喚起全文（出典：STU48公式サイト）