Innovative Tech
物体を追加しても影や回り込みをリアルに合成する技術 ワシントン大学が開発
Innovative Tech：
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
米ワシントン大学の研究チームが開発した「People as Scene Probes」は、一方向から撮影した映像の奥行きや光の当たり方を分析する深層学習ベースの技術だ。この技術を使うことで、影や「オクルージョン」（遮蔽物によって光の反射がさえぎられる度合い、環境遮蔽とも） を考慮したリアルな画像合成が可能になる。
映像内の物体から奥行き、オクルージョン、照明／影の情報を抽出し、新しく挿入する画像に適応することで自然な合成画像を生成するネットワークの概要図。下段の図では、手前の人物や奥の赤い車に対して適切な影が加えられている
今回の手法では、物体とシーンとの隠蔽関係をピクセルレベルで記録し、物体の位置に応じてどの画素がオクルージョンしているかを判断する。
オクルージョンの定性結果。（左）オクルージョン合成した結果（右）オクルージョン前の画像
次に、シーン内の物体がどのような影を保持しているかを分析し、ライティングマップを作成する。これにより、新しい物体を挿入した際に、その位置の環境に応じた明るさと太陽に対して正しい方向にある影を生成する。
影は、太陽の位置や天候、物体とシーンとの関係などで相互作用する複雑なタスクなため、GAN（敵対的生成ネットワーク）を用いて詳細に再構築できるように学習する。
影の合成結果。（左）既存の研究による出力結果。（中央）本手法による出力結果、既存より詳細な形状の影を生成している。（右）実際の写真
最後に、奥行きに対して物体のサイズを調整する。シーン内の人物の身長と位置関係を分析することで相対的な高さを推定し、異なる位置でも適した高さの画像に変換できる。
（左）元の映像から人物の身長を計測し、（中央）それに基づいて異なる位置での身長を正確に推定する。（右）実際の写真
このように、オクルージョン、影、奥行きの情報を新しい物体画像を挿入する際に適応することで、違和感の少ない合成画像に仕上げることができる。出力した合成画像を既存の類似手法と比較した結果、定性的に良好な成果も得られたとしている。
シーンに人物を合成した際の比較結果（左列）影なし（中央列）既存方法による出力結果（右列）自然な影が生成されている本手法の出力結果
この技術を用いた合成画像を生成する編集ツールも開発している。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
なぜ酒蔵の許諾なしに？ 「VTuberコラボ日本酒」騒動、主催者が経緯説明 仲介者による調整で「準備進んでいると認識」
-
2
かっぱ寿司「配布前のコラボグッズ、フリマで買わないで」 プリキュアコラボ発表日に注意喚起
-
3
「食事量は1日1200kcal以下、でも肥満」な人を14日間追跡調査 痩せない理由は……米コロンビア大などの研究
-
4
本物そっくり“AI生成レシート“が経費精算の脅威に マネフォ「自力で見破るのは難しい」 企業はどう備える？
-
5
「ペンギンを返して」→「3匹全部採用して」 批判殺到のSuica新キャラ、ファンアートが空気を変えた？ SNSの声
-
6
「菜の花がおかしい」――イラストレーター制作うたうマラソン大会ポスターに指摘相次ぐ 事務局がAI使用明かす【訂正あり】
-
7
「壁紙DIY」とイマドキの超短焦点4Kプロジェクターを寝室で試したら検証が止められなくなった
-
8
早すぎる 「めっちゃカメレオン」Switch 2版、即日10万本突破
-
9
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
10
藤井風のリサイタル、公式サイトがインターネット老人会すぎると話題 公民館のチラシみたいだけど東京ドーム開催
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR