画像生成AI「Stable Diffusion」、性的コンテンツでの利用を禁止に 開発会社が規約改定へ

[ITmedia]

　画像生成AI「Stable Diffusion」を手掛ける英Stability AIが、同社製AIモデルやサービスの利用規約を7月31日（現地時間）に改定する。新規約では営利・非営利を問わず、性行為に関するコンテンツにつながる利用の禁止を明記する。対象とするサービスにはAPIや同社が公開するオープンソースコードも含むという。

新規約

　新規約では「性交や性行為、性的暴力に関するコンテンツ」につながる利用を禁止すると明記。対象者との合意なく、その人物のヌード画像を作成・配布する行為や、違法なポルノコンテンツについても、旧規約と同様に禁止する。

性的なコンテンツの禁止に関する項目（Stability AIの新規約から引用、以下同）

　児童への性的虐待につながる利用についても、実質的に規制を強化する。旧規約では、児童を搾取するようなコンテンツの作成・取得・配布や、その促進、計画、扇動などを禁じるとしていた。

　一方新規約では「児童性的虐待コンテンツ（CSAM）、未成年者の性的な搾取、グルーミング、人身売買」につながる利用を禁止すると記載。さらに未成年者の暗示的な描写を含む小児性愛行為や、性的脅迫や搾取を目的に、未成年者になりすます行為につながる利用も禁止する。CSAMを確認した場合には当局に通報する方針も明らかにした。

　他にも、同社が設けた安全対策や利用制限を意図的に回避する行為を禁止に。知的財産権を含む他者の権利やプライバシーの侵害につながる利用についても、禁止する具体例を明記する。例えば、本人の同意なく顔認証用のデータベースを作成・拡張する目的で同社のAIモデルやサービスを利用する行為を禁止する。

他社の権利を侵害する行為の禁止に関する項目

　Stable Diffusionをはじめとした画像生成AIは、ポルノ画像の生成に使われる例も少なくない。今回の規約変更は、海外掲示板サイトRedditなどでも話題になり始めており、「Civitai」などAIモデル共有プラットフォームへの影響を懸念する声もある。一方、Stable Diffusionはローカル環境で利用できる点を踏まえ、規制の実効性を疑問視する声も見られる。