Grokアプリ、インドネシア政府がアクセス遮断　「偽ポルノから地域社会を守るため」

　インドネシアの通信デジタル省（Kementerian Komunikasi dan Digital）は1月10日（現地時間）、公式Instagramアカウントで、米xAIのAIアプリ「Grok」へのインドネシア国内からのアクセスを一時的に遮断したと発表した。

　「AIで生成された偽のポルノ画像のリスクから女性、子供、地域社会を守るため」としている。

　同省はまた、xAI傘下のSNSプラットフォームであるXに対し、Grokの使用による悪影響について説明するよう求めたとしている。

　米The New York Timesによると、マレーシア政府も11日に同様の禁止令を発表したという。

　背景には、2025年12月末に行われたGrokの画像生成機能のアップデートがある。このアップデート以来、数千点に上る女性の性的画像が、本人の同意なしに生成されたと報告されている。xAIはこれを受け、Grokのアカウントで問題を認める趣旨のポストを行い、その後AI画像生成機能の利用をXの有料会員のみに制限したものの、Grokアプリでは引き続きポルノコンテンツを生成できる状態が続いている。

　Xの日本法人は6日、違法コンテンツのポストに対し、行政と協力して厳しい措置を講じると発表した。9日には林芳正総務大臣が会見でこの件に言及し、「Xに対して適切な対応を促す」と述べた。

印刷する

SNSでシェア

関連記事

• 

  林総務相「Xに適切な対応促す」　生成AI「Grok」による“性的加工”被害巡り　「権利侵害の可能性」にも言及

• 

  「X投稿画像がGrokで他人に編集される」防止ツール「ピクシールド」　個人開発者が公開

• 

  X日本法人、“性的加工”で波紋のAI「Grok」巡り警告　違法者はアカウント凍結＆法的措置も

• 

  「Grok、この女性をビキニ姿にして」　AIで画像の“性的加工”相次ぐ　マスク氏は違法コンテンツに警告

こんなメディアも見られています

ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

エネルギーの専門メディア

スマートジャパン

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン