アダルト可のAI「Unstable Diffusion」のクラファンが停止される 「健全性守るため」

[谷井将人，ITmedia]

　クラウドファンディングサイトを運営する米KickStarterは12月21日（現地時間）、画像生成AI「Unstable Diffusion」の構築を目指すクラウドファンディングを停止した。KickStarter社は「われわれは作品とクリエイターの味方でなければならない」との立場を表明している。

Unstable Diffusionのプロジェクトページ

　Unstable Diffusionは、画像生成AIに対する規制に反発するコミュニティーが構築を目指していたAI。同コミュニティーは画像生成AI「Stable Diffusion」がアダルト画像を排除していることを不服として、独自の画像生成AIを構築すべくクラウドファンディングを実施していた。

　クラウドファンディングの目標額は2万5000ドル（約330万円）。初日には目標を達成し、停止時点では約5万6000ドル（約743万円）を集めていた。

　KickStarter社はクラウドファンディングの停止と同日に「画像生成AIやAIアートの活用に関する現時点での考え方」という文書を公開。「KickStarterは作品とクリエイターの味方でなければならない」とコメントした。

　同社はAIを活用したクラウドファンディングに求める視点として「プロジェクトがアーティストの作品をコピー・模倣していないか」「プロジェクトが特定の集団を搾取していないか、誰かを危険にさらしていないか」を挙げている。

KickStarterの判断基準

　学習データにクリエイターの同意なしに取得された作品が含まれている可能性がある場合や、差別や偏見などを助長する場合には「KickStarterの健全性を守るために決断を下すことがある」としている。ただし、Unstable Diffusionについて直接言及はしていない。

AI規制に反発してきたUnstable Diffusion開発陣

　Unstable Diffusionは「人種や性別、LGBTQなどの十分に訓練されていない概念を表現できる、より表現力豊かなAIアートモデル」（開発チーム）をうたうAI。クラウドファンディングで集めた資金は、7000万枚超の画像をAIに学習させるコンピューティングリソースを確保するために使うとしていた。

　開発チームはプロジェクト発足の背景について「オープンソースの画像生成AIをリリースしている企業が、投資家の圧力に屈している」「Stable Diffusionはアダルト画像を排除したことで、人体などを正確に描写する能力を妨げられている」などと主張している。

　オープンソースの画像生成AI「Stable Diffusion」は11月にバージョン2.0をリリース。機能追加の他にアダルトコンテンツの排除などを進めていた。

＜関連記事：「Stable Diffusion 2.0」リリース　高品質化、アダルト排除、解像度アップ、奥行推定など機能追加＞

　これに対し、Unstable Diffusionではアダルト画像の取り扱いも許可する方針だった。一方、虐待の可能性を排除するため、子供の画像はデータセットから排除するという。

　KickStarter社は「新技術については現在の決定が将来も有効とは限らない。継続的に対話したい」として、意見募集窓口でユーザーなどからの意見を受け付けるとしている。