カリフォルニア州、xAIの「Grok」を正式調査 非同意の性的画像生成で法的責任追及へ

米カリフォルニア州は、AI「Grok」による性的ディープフェイク生成を巡り、xAIに対する正式調査を開始したと発表した。州法違反の可能性を追及する。この発表の数時間後、Xは画像生成の有料化や露出規制などの緊急対策を公表した。

[ITmedia]

　米カリフォルニア州のロブ・ボンタ司法長官は1月14日（現地時間）、同州に拠点を置くxAIが開発したAIツール「Grok」に対し、正式な調査を開始したと発表した。Grokが実在する人物の画像を無断で性的コンテンツへと加工・配信している疑いがあるとして、同社および運営プラットフォームのXが州法に違反していないか、法的責任の有無を追及する構えだ

　ボンタ司法長官は声明文で、女性や子供がヌードや性的に露骨な状況に置かれたかのように加工された画像がネット上でのハラスメントに悪用されている実態を「衝撃的だ」と非難。xAIに対し、即時の状況改善と説明を要求した。

ボンタ司法長官によるInstagramでの発表動画

　Grokの画像生成機能では、ユーザーがアップロードした通常の写真に対し、被写体を性的に露骨な姿に変換するなどの性的加工を施すことが可能になっていた。その結果、非同意の性的画像が広範に生成され、特に児童を水着や性的状況に見せかけた生成例が多数確認されているという。ボンタ司法長官は「AIを用いた非同意の性的画像や児童虐待コンテンツの生成・拡散に対し、断固たる態度で臨む」と強調した。

　欧州やアジア各国でも、Grokへの規制が強まっているが、オーナーのイーロン・マスク氏は「未成年のヌード画像生成については把握していない」という姿勢を崩していない。

　だが、カリフォルニア州のこの発表の数時間後、XはGrokの画像生成機能に関して追加の安全対策を講じる予定であると発表した。露出度の高い画像編集を禁止し、画像生成機能を有料会員限定とするとしている。