Innovative Tech

天空の城を出現させる深層学習技術　動画内の空を入れ替える「Castle in the Sky」

公開 2020年12月22日 15時09分

更新 2024年04月02日 11時41分

著者

[ITmedia]

印刷する Googleで優先するソースとして追加

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　米ミシガン大学の研究員が開発した「Castle in the Sky」は、映像に記録した空を別のものに置き換える、深層学習を用いた合成法だ。従来の手法では動画撮影時にスマートフォン搭載のモーションセンサーが必要だったが、今回のアプローチでは画像情報のみ使う。

　撮影後の映像編集に使えるだけでなく、ARとしてリアルタイム表示できる。

入力ビデオ（上）天空の城と空を合成した出力結果（下）

入力ビデオ（上）宇宙船と空を合成した出力結果（下）

　合成プロセスは3ステップで行われる。

映像フレームを入力とし、深層学習ネットワークを使用し空の領域を検出する。セグメンテーションで空のマスク領域を推定する。
次に、検出した空の領域をテンプレートと入れ替えるため、連続するカメラの動きを推定する。フレーム間のカメラの動きを計算するために、空の領域とその中の物体（太陽や雲など）が無限遠に位置し、前景との相対的な動きがアフィン運動であると仮定している。推定したカメラの動きは仮想カメラに反映し、仮想カメラからのテンプレート画像をレンダリングし実画像と同期させている。
カメラの動きに基づいてただ合成するだけでは、地面やその他の前景物体との不自然さ（色合いや光の加減など）が残る。この課題を解決するため、最後にライティングとカラーリングを調整して、合成結果を調和したものに仕上げる。