Innovative Tech
物体を追加しても影や回り込みをリアルに合成する技術 ワシントン大学が開発
Innovative Tech：
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
米ワシントン大学の研究チームが開発した「People as Scene Probes」は、一方向から撮影した映像の奥行きや光の当たり方を分析する深層学習ベースの技術だ。この技術を使うことで、影や「オクルージョン」（遮蔽物によって光の反射がさえぎられる度合い、環境遮蔽とも） を考慮したリアルな画像合成が可能になる。
映像内の物体から奥行き、オクルージョン、照明／影の情報を抽出し、新しく挿入する画像に適応することで自然な合成画像を生成するネットワークの概要図。下段の図では、手前の人物や奥の赤い車に対して適切な影が加えられている
今回の手法では、物体とシーンとの隠蔽関係をピクセルレベルで記録し、物体の位置に応じてどの画素がオクルージョンしているかを判断する。
オクルージョンの定性結果。（左）オクルージョン合成した結果（右）オクルージョン前の画像
次に、シーン内の物体がどのような影を保持しているかを分析し、ライティングマップを作成する。これにより、新しい物体を挿入した際に、その位置の環境に応じた明るさと太陽に対して正しい方向にある影を生成する。
影は、太陽の位置や天候、物体とシーンとの関係などで相互作用する複雑なタスクなため、GAN（敵対的生成ネットワーク）を用いて詳細に再構築できるように学習する。
影の合成結果。（左）既存の研究による出力結果。（中央）本手法による出力結果、既存より詳細な形状の影を生成している。（右）実際の写真
最後に、奥行きに対して物体のサイズを調整する。シーン内の人物の身長と位置関係を分析することで相対的な高さを推定し、異なる位置でも適した高さの画像に変換できる。
（左）元の映像から人物の身長を計測し、（中央）それに基づいて異なる位置での身長を正確に推定する。（右）実際の写真
このように、オクルージョン、影、奥行きの情報を新しい物体画像を挿入する際に適応することで、違和感の少ない合成画像に仕上げることができる。出力した合成画像を既存の類似手法と比較した結果、定性的に良好な成果も得られたとしている。
シーンに人物を合成した際の比較結果（左列）影なし（中央列）既存方法による出力結果（右列）自然な影が生成されている本手法の出力結果
この技術を用いた合成画像を生成する編集ツールも開発している。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
プールにはおしっこが何リットル混じっている？ 人工甘味料を基に計測 カナダチームが2017年に調査
-
2
「脳のゴミ掃除」を薬で活性化、東大と新潟大がマウスで実証 アルツハイマー病の原因を抑制、海馬の萎縮も阻止
-
3
「Backlogの値上げエグすぎ」SNSで悲鳴 ユーザー無制限プラン、月最低1.6万円→3.6万円に
-
4
103年前の関東大震災、どこがどれだけ揺れた？ 市区町村別の「詳細震度」マップがXで話題に
-
5
「Twitter」が帰ってきた？ 元Twitter法務のスタートアップが新SNS立ち上げ Xとは係争中
-
6
初の“指輪型たまごっち”の秘密、開発者に聞く 「驚きのあるデバイスを」「前面ボタンは飾りです」
-
7
はてな、11億円流出の調査報告書を公開 偽警察、口外禁止、残業・休出200時間超、孤立……ほころびが連鎖
-
8
“ドパガキ”がショート動画を止められない理由 fMRIを使って若者の脳活動を分析 中国チームが研究
-
9
セブンに「セルフ発送機」 レジ経由せず、約10秒で荷物を発送
-
10
「レスレリアーナのアトリエ」サービス終了へ 開始から約3年で
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR