カリフォルニア州、xAIの「Grok」を正式調査　非同意の性的画像生成で法的責任追及へ

　米カリフォルニア州のロブ・ボンタ司法長官は1月14日（現地時間）、同州に拠点を置くxAIが開発したAIツール「Grok」に対し、正式な調査を開始したと発表した。Grokが実在する人物の画像を無断で性的コンテンツへと加工・配信している疑いがあるとして、同社および運営プラットフォームのXが州法に違反していないか、法的責任の有無を追及する構えだ

　ボンタ司法長官は声明文で、女性や子供がヌードや性的に露骨な状況に置かれたかのように加工された画像がネット上でのハラスメントに悪用されている実態を「衝撃的だ」と非難。xAIに対し、即時の状況改善と説明を要求した。

ボンタ司法長官によるInstagramでの発表動画

　Grokの画像生成機能では、ユーザーがアップロードした通常の写真に対し、被写体を性的に露骨な姿に変換するなどの性的加工を施すことが可能になっていた。その結果、非同意の性的画像が広範に生成され、特に児童を水着や性的状況に見せかけた生成例が多数確認されているという。ボンタ司法長官は「AIを用いた非同意の性的画像や児童虐待コンテンツの生成・拡散に対し、断固たる態度で臨む」と強調した。

　欧州やアジア各国でも、Grokへの規制が強まっているが、オーナーのイーロン・マスク氏は「未成年のヌード画像生成については把握していない」という姿勢を崩していない。

　だが、カリフォルニア州のこの発表の数時間後、XはGrokの画像生成機能に関して追加の安全対策を講じる予定であると発表した。露出度の高い画像編集を禁止し、画像生成機能を有料会員限定とするとしている。

印刷する

SNSでシェア

関連記事

• 

  X、Grokでのビキニ画像を技術的に禁止　画像生成は有料プランのみに

• 

  英規制当局、Xの「Grok」の正式調査開始　性的ディープフェイクで巨額罰金の可能性

• 

  Grokアプリ、インドネシア政府がアクセス遮断　「偽ポルノから地域社会を守るため」

• 

  「Grok、この女性をビキニにして」無料ユーザーは不可能に　X、AI画像編集を一部有料化

こんなメディアも見られています

ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

企業ITのトレンドを詳説

エネルギーの専門メディア

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン