Grokアプリ、インドネシア政府がアクセス遮断 「偽ポルノから地域社会を守るため」

インドネシアとマレーシア政府は、不適切な画像生成のリスクを理由にAIアプリ「Grok」へのアクセスを遮断した。2025年末のアップデート以降、ディープフェイクポルノの拡散が深刻化したことを受けた措置だ。日本政府もXに対し適切な対応を求めるなど、国際的な監視が強まっている。

[ITmedia]

　インドネシアの通信デジタル省（Kementerian Komunikasi dan Digital）は1月10日（現地時間）、公式Instagramアカウントで、米xAIのAIアプリ「Grok」へのインドネシア国内からのアクセスを一時的に遮断したと発表した。

　「AIで生成された偽のポルノ画像のリスクから女性、子供、地域社会を守るため」としている。

　同省はまた、xAI傘下のSNSプラットフォームであるXに対し、Grokの使用による悪影響について説明するよう求めたとしている。

　米The New York Timesによると、マレーシア政府も11日に同様の禁止令を発表したという。

　背景には、2025年12月末に行われたGrokの画像生成機能のアップデートがある。このアップデート以来、数千点に上る女性の性的画像が、本人の同意なしに生成されたと報告されている。xAIはこれを受け、Grokのアカウントで問題を認める趣旨のポストを行い、その後AI画像生成機能の利用をXの有料会員のみに制限したものの、Grokアプリでは引き続きポルノコンテンツを生成できる状態が続いている。

　Xの日本法人は6日、違法コンテンツのポストに対し、行政と協力して厳しい措置を講じると発表した。9日には林芳正総務大臣が会見でこの件に言及し、「Xに対して適切な対応を促す」と述べた。