X日本法人、違法コンテンツへの対策を公表 AI画像生成「Grok」の不適切使用で

[金子麟太郎，ITmedia]

　Xの日本法人は1月17日、公式アカウントを通じて「Grok」の画像生成機能に関する最新のアップデートを公開した。AI技術を用いた画像生成および編集における具体的な制限事項と、プラットフォーム全体の安全性を高めるための技術的措置を明示した。Grokについては、不適切な使用が相次ぎ、対策が求められていた。

Xのイメージ

不適切コンテンツの削除と法執行機関への通報体制

　Xは、児童の性的搾取や同意のないヌード、望まれない性的コンテンツに対して、一切の妥協を許さないゼロトレランスの方針を継続している。具体的には、児童性的虐待コンテンツや同意のないヌードを含む、優先度の高い規則違反コンテンツを直ちに削除する対応を実施している。また、「Xルール」に違反したアカウントに対しては、アカウントの停止などの適切な措置を講じている。特に児童の性的搾取に関する素材を求めるアカウントについては、必要に応じて法執行機関への通報を直接行っている。同社のセーフティチームは24時間体制で稼働しており、違法なコンテンツの排除と、各国政府や警察当局との連携を遂行している。

露出度の高い服装に改変する編集を許可しない

　Grokにおける画像生成機能については、実在する人物の画像をビキニなどの露出度の高い服装に改変する編集を許可しない措置を施す技術を実装。この制限は、有料サブスクライバーを含む全ての利用者に適用される。現在、X上でのGrokを通じた画像生成および画像編集機能は、全世界で有料サブスクライバーのみが利用可能となっている。この運用により、Xは「機能を悪用して法律やポリシーに違反しようとする個人の特定が容易に」なり、「責任を追及しやすくなる」としている。

　さらに、特定の画像生成が違法とされる法域においては、実在の人物がビキニや下着などの服装をしている画像を生成する機能を制限するジオブロックを導入した。Xはこの措置は当該地域に所在する全利用者に適用し、xAIが提供するGrokアプリでも同様の技術的措置を取った。

「Xルール」についても言及

　Xの日本法人は「Xルール」についても言及し、「Xに投稿される全てのAIプロンプトおよび生成コンテンツが、当社のXルールを厳格に順守しなければならない」ことを明確にした。コンテンツの作成過程や利用者の契約形態を問わず、違反内容には迅速に対処し、必要に応じてアカウントを永久停止する。

X日本法人の記事全文