Innovative Tech
手軽にリアルな絵を生成 粗いマスク指定とテキスト入力で
Innovative Tech：
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
スイス・チューリッヒ工科大学の研究チームが開発した「Controlling Style and Semantics in Weakly-Supervised Image Generation」は、ユーザーが手描きで大雑把に指定したマスク（画像処理ソフトなどで使われる領域指定）とテキスト記述や属性から、もっともらしいリアルな絵を生成する深層学習フレームワークだ。
セマンティックマップを利用してオブジェクトの形状やクラスを制御し、テキスト記述や属性を利用してローカルとグローバルの両方のスタイルを制御する
手描きマスクからリアルな絵を生成する従来の技術には大規模なラベル付きデータが必要で、複雑な形状やオブジェクトから構成される絵の合成はできなかった。オブジェクトを削除すると不自然な部分が残ってしまう問題もあった。
今回の手法では、オブジェクトの形状やクラスを制御するための大雑把な手描きマスクと、スタイルやテクスチャを制御するためのテキスト入力を組み合わせた新しいモデルを導入する。
マスクを使った画像操作ではオブジェクトの形状やサイズ、移動、削除、追加などが実行でき、属性や自然言語による説明でシーンとそのオブジェクトの色や素材、天気、風景などのスタイルを制御できる。
今回のフレームワークは、自動的に生成されたマスクを使用しラベルマップを作成している。なぜなら、セグメンテーションマスクに基づく弱教師あり学習と比較して、このプロセスは不自然なオブジェクトの発生が少なく、新しいデータセットでラベル付けする際に労力を抑えられるからだ。
本手法の2段階モデルによって生成されたデモ。入力のフルマスクに加えて、背景と前景に分解されたマスク、背景のみの出力結果、背景と前景を合成した出力結果、Ground truthを示す
本手法のアーキテクチャ。右が2つの生成器があるモデル
学習したモデルを従来方式と比較した結果、実画像との類似性を評価するFIDスコアで、より高い数値を示した。
意味と属性の操作例。左端の列が入力画像、右端の列がGround truth、中央列が本手法の出力結果（Visual Genomeデータセットを使用）
テキストを用いたスタイル操作例。左端の列が入力画像、右端の列がGround truth、中央列が本手法の出力結果 （COCOデータセットを使用）
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
メルカリ、梨の転売疑惑に「盗品の出品は確認されず」 誹謗中傷には利用制限も
-
2
Anthropic、「Claude Opus 5」公開 Fable 5に迫る性能を半額で――サイバー安全策は緩和、拒否時は自動フォールバックも
-
3
「iPhone高騰」はこれからも続く？ 中国CXMTに近づくApple、メモリ競合へのけん制が不発に終わりそうなワケ【後編】
-
4
「ニューロマンサー」実写ドラマ、Apple TV+で2027年1月配信開始へ
-
5
検索結果に「詐欺ではありません」と表示させる詐欺手口、警視庁が注意喚起 AI要約も餌食に
-
6
「こんなのに追われたら……」急斜面もやすやす爆走、中国製の車輪付き四足ロボのデモ動画が話題 最高時速20km超
-
7
海外の新作バカゲー「電車アタック」にマンガ家が感心した理由 ブッ飛んだ内容と完成度の高さ、そして“日本”
-
8
「めっちゃカメレオン」公式Discord乗っ取り 担当者PCがマルウェア感染、管理者が全員BANに 現在は復旧
-
9
暑さ対策が熱い！ 「猛暑対策展」で感じた、転んでもただでは起き上がらない日本人のエネルギー
-
10
スーパーに並んだ「ごちゃごちゃ生成AIポップ」が物議 “看板王”こと、きぬた歯科院長「これはアリ」
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR