英規制当局、Xの「Grok」の正式調査開始 性的ディープフェイクで巨額罰金の可能性

英オンライン安全規制当局のOfcomは、X上のAI「Grok」による性的ディープフェイク生成を巡り、オンライン安全法に基づく正式調査を開始した。非同意の性的画像や児童虐待物の拡散を防ぐ義務の成否を審査する。違反となれば、最大で約37億円または全世界売上高の10％の罰金やアクセス遮断の可能性がある。

[ITmedia]

　英国のオンライン安全規制当局であるOfcom（Office of Communications、英情報通信庁）は1月12日（現地時間）、米xAIが開発し、米Xのプラットフォームで提供されているAI「Grok」について、同国の法律に違反する性的な画像生成の有無を調査する正式な調査を開始したと発表した。

　Ofcomは、2023年制定の「Online Safety Act」に基づき、Grokが不特定多数のユーザーの画像を無断で性的に加工し、共有した可能性があることを受け、Xが英国のユーザーを違法なコンテンツから保護する義務を適切に果たしているかを審査する。Ofcomに寄せられた報告によると、衣服を除去した人物の画像や児童への性的描写が含まれているとの指摘があり、これらは英国法で「非同意の親密な画像の悪用」や児童性的虐待物（CSAM）に該当する可能性があるとしている。

　OfcomはX側に対し、1月5日に説明を求め、9日までに回答を受けた上で初期評価を行い、正式な調査に移行したと説明している。

　Ofcomは英国での法的義務への順守状況を判断し、違反が確認された場合には最大1800万ポンド（約37億円）またはXの全世界売上高の最大10％の罰金、さらに重大な場合には支払サービスや広告サービスの停止、インターネットサービスプロバイダーによるアクセス遮断などの法的措置を講じる権限を有する。

　調査プロセスでは、証拠収集と分析を基に違反の可能性があるかどうかを判断し、その結果をXに通知、Xには回答機会が与えられる。最終的な結論はその後に出される見込みだ。

　Grokを巡っては英国以外でも各国当局の反応が相次いでいる。欧州連合（EU）では欧州委員会がGrokに関連する内部文書とデータの保存を2026年末まで義務付け、DSA（デジタルサービス法）に照らしたコンプライアンスの可能性を見極める方針だ。また、インド、マレーシア、インドネシアなどアジアの国々でもGrokに対する説明要求やアクセス停止が行われ、問題視されている。