生成AI「Grok」の悪用を断罪へ Xが厳格な新指針、法執行機関などと連携

[金子麟太郎，ITmedia]

　「X」の日本法人は1月6日、プラットフォーム上における違法コンテンツへの対応を大幅に強化する指針を公開した。今回の発表は、児童性的虐待素材を含む違法な投稿に対して、投稿の削除やアカウントの永久凍結といった厳しい措置を講じることを改めて明確にした形だ。Xは規約の提示にとどまらず、行政や法執行機関と密接に協力し、法的枠組みに基づいた対応を推進する姿勢を打ち出した。

X（旧Twitter）

　Xが掲載した案内によると、取り締まりの対象となるのは児童性的虐待素材、いわゆるCSAMをはじめとする法律に抵触するあらゆるコンテンツだ。これらが含まれる投稿が確認された場合、当該ポストの即時削除はもちろん、該当するアカウントに対しては二度と利用を認めない永久凍結の措置を取る。さらに、単なるプラットフォーム内での処分にとどまらず、必要に応じて警察などの行政機関や法執行機関へ情報を提供する。

　今回の指針で特に注目すべき点は、独自開発の生成AIである「Grok」に関する具体的な制限事項だ。Grokを利用して違法コンテンツを生成する行為、あるいはAIに対して違法な素材の作成を促すようなプロンプトを入力する行為は、直接違法コンテンツをアップロードする行為と同等と見なされる。この規定により、技術を悪用して法に触れる画像を生成しようとする試みは厳しく制限されることとなった。

　生成AIの進化に伴い、ディープフェイクなどの偽造コンテンツが社会問題化する中で、プラットフォーム提供者としての責任範囲をAIの利用段階にまで広げた形だ。Grokを通じた不正行為が発覚した場合も、通常のアカウントと同様に永久凍結を含む厳しい制約が課される。

独自開発の生成AIである「Grok」に関する具体的な制限事項

JKT48が「AI技術の不正利用に関する公開警告」を発する事態に

　生成AIについては芸能界からも強い危機感が表明されている。インドネシアのジャカルタを拠点とする「JKT48」は1月5日、AI技術の不正利用に関する公開警告と題した声明を発表した。JKT48は、メンバーの顔や身元を無断で使用して作成されたAI生成のポルノコンテンツを明確な攻撃対象として定義している。具体的には、そうした不適切なコンテンツの作成、配布、拡散、宣伝に関与した者に対し、一切の容赦なく法的措置を講じる方針を固めた。また、これらの素材を支持したり、助長したりするようなコメントの投稿、さらにはコンテンツを搾取する行為も処罰の対象に含まれるという。アイドルグループの肖像権や人権を侵害するAI悪用に対し、組織として刑事および民事の両面から対抗する姿勢を示した。