Innovative Tech
天空の城を出現させる深層学習技術 動画内の空を入れ替える「Castle in the Sky」
Innovative Tech：
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
米ミシガン大学の研究員が開発した「Castle in the Sky」は、映像に記録した空を別のものに置き換える、深層学習を用いた合成法だ。従来の手法では動画撮影時にスマートフォン搭載のモーションセンサーが必要だったが、今回のアプローチでは画像情報のみ使う。
撮影後の映像編集に使えるだけでなく、ARとしてリアルタイム表示できる。
入力ビデオ（上）天空の城と空を合成した出力結果（下）
入力ビデオ（上）宇宙船と空を合成した出力結果（下）
合成プロセスは3ステップで行われる。
- 映像フレームを入力とし、深層学習ネットワークを使用し空の領域を検出する。セグメンテーションで空のマスク領域を推定する。
- 次に、検出した空の領域をテンプレートと入れ替えるため、連続するカメラの動きを推定する。フレーム間のカメラの動きを計算するために、空の領域とその中の物体（太陽や雲など）が無限遠に位置し、前景との相対的な動きがアフィン運動であると仮定している。推定したカメラの動きは仮想カメラに反映し、仮想カメラからのテンプレート画像をレンダリングし実画像と同期させている。
- カメラの動きに基づいてただ合成するだけでは、地面やその他の前景物体との不自然さ（色合いや光の加減など）が残る。この課題を解決するため、最後にライティングとカラーリングを調整して、合成結果を調和したものに仕上げる。
本手法のパイプライン
デモでは、晴れから雨などの天候の変換から、天空の城やスーパームーンの出現などを披露している。色合いやダイナミックレンジが調和しているだけでなく、雷の出現時はその時だけ全体が光るなど、動的な変化にも対応している。
入力ビデオ（左）天気を変換した出力結果（右）
入力ビデオの開始フレーム（左端）、異なる時間で処理された出力画像（右3枚）
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
Google、プライバシーポリシーに「Gmail」「Googleフォト」のデータを広告に使う例外を追加 回避方法は
-
2
「年齢は合ってますが、人間ではありません」 6歳の飼い猫に届いた“進研ゼミの案内” なぜ届いたのかベネッセに聞いた
-
3
「5年でバッテリーが使い物にならなくなる」は本当か テスラ「モデル3」5年目点検で分かったこと
-
4
GMO熊谷代表「社内ホワイトハッカーが事前に指摘」も対策遅れ、国に「能動的サイバー防御」要請 「責任転嫁では」SNSで批判も
-
5
グッスマに不正アクセス、公式EC閉鎖 会員の住所や注文履歴など漏えいか 再開目処立たず
-
6
ジョーシンへの不正アクセス、最大623万件漏えいか 運転免許証2件・マイナカード1件なども
-
7
野村総研、サイバー攻撃時の「能動的なシステム停止」を支援する新サービス
-
8
タイムズカー流出で顧客らが損害賠償求め運営会社提訴へ サイト開設の弁護士が記者会見
-
9
Xの「いいね」長押しで1ドル送金 マスク氏が“投げ銭”機能を予告
-
10
たばこ休憩なき時代の“一服”をどう取るか 温熱と“聞こえない音”で休む、JT子会社のアイマスクを試す
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR