ITmedia NEWS
業界動向
国産AIはなぜ炎上する？　「mimic」開発元に反省点を聞いた　海外産AIは平常運転、待つのは“日本1人負け”か

国産AIはなぜ炎上する？　「mimic」開発元に反省点を聞いた　海外産AIは平常運転、待つのは“日本1人負け”か（1/3 ページ）

公開 2022年12月26日 10時01分

更新 2024年04月02日 11時22分

[ITmedia]

印刷する Googleで優先するソースとして追加

　2022年、画像生成AIが大きな注目を集めた。7月に米Googleの「DALL・E 2」が一般公開され、8月に「Midjourney」「Stable Diffusion」、10月に「NovelAI Diffusion」（NovelAI）が出現し、いずれも大きな反響を集めた。これらはいずれも海外産サービスであるが、国産サービスでも話題になったものがある。それはラディウス・ファイブが開発した「mimic」だ。

ラディウス・ファイブが開発したイラストメーカー開発サービス「mimic」

　mimicはイラストレーターの個性を反映した絵を無限に生成できるサービスとして、8月29日に公開された。しかし公開直後から「悪用の危険がある」など、イラストレーターを中心に声が上がり、翌30日にはサービス提供を一時停止に。同社はクリエイターに対し謝罪し、11月に機能改修したβ版2.0を公開した。

　mimicの炎上を通して、提供元であるラディウス・ファイブは何を感じたのか。同社でAI技術の統括を行う菅原健太COOは「当初の想定を超える反響があった」と当時を振り返る一方、「日本企業はAIサービスを提供しにくい流れになりつつある」と危機感をあらわにする。画像生成AIを取り巻く環境、そして今後AIはクリエイターにどのような影響を与えていくのか。菅原氏に聞いた。

ラディウス・ファイブでAI技術の統括を行う菅原健太COO

ネット上の絵師は常に悪意にさらされ続けている

　菅原氏によると、mimicの企画が始まったのは21年10月頃。同社ではこれまでも、画像の編集加工が行えるAIツール「cre8tiveAI」などを提供していた。その経験から、今度はAI自体をクリエイターに渡すことで新たなイノベーションが起こり、より便利なサービスを作れるのではないかと考えたという。一方、リリースに伴って批判の声が上がることも当初から理解していたという。

　しかし、リリース後に上がった批判の意見は同社の想定をはるかに上回る数だった。菅原氏は「ネット上で活動する絵師の人たちは、トレパクや誹謗中傷など常に悪意にさらされ続けるリスクを抱えている。それは理解していたつもりだったが、そこに対して抱えるストレスは想定よりも大きいものだった」と話す。

　「これらのストレスは、インターネット上で活動する以上は仕方がないと多くの方が受け入れていると思う。にもかかわらず、さらに『今度はAIに絵を悪用される』ストレスもmimicで与えてしまった。そこに対しての認識が甘かった」と菅原氏。絵師が自身の作品に持つ思い入れを見誤ったことが炎上を招いた一因だったのではないかと省みた。

　また、情報の拡散についても想定を超えており、うまくコントロールできなかったことも炎上を招いた要因になったのではないかとも指摘。「リリースしたタイミングではすでにMidjouneyなどのサービスが先行してあり、画像生成の悪用について、臆測が広まっていた印象がある」と当時の状況を振り返る。

　実際、mimicでは初期リリースの段階から顔のイラストしか生成できず、透かしが入る仕様になっていた。菅原COOは「それらの情報が正しく広まらなかったことも一因ではないか」とし「イメージとしては切り抜き動画のように、サービス内容の一部分だけが切り抜かれて伝わってしまった。現代のSNS時代ならではの広まり方と感じた」と話す。