ニュース
天空の城を出現させる深層学習技術 動画内の空を入れ替える「Castle in the Sky」:Innovative Tech
天空の城、Castle in the Skyというそのまんまのネーミングがされた技術。
Innovative Tech:
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
米ミシガン大学の研究員が開発した「Castle in the Sky」は、映像に記録した空を別のものに置き換える、深層学習を用いた合成法だ。従来の手法では動画撮影時にスマートフォン搭載のモーションセンサーが必要だったが、今回のアプローチでは画像情報のみ使う。
撮影後の映像編集に使えるだけでなく、ARとしてリアルタイム表示できる。
合成プロセスは3ステップで行われる。
- 映像フレームを入力とし、深層学習ネットワークを使用し空の領域を検出する。セグメンテーションで空のマスク領域を推定する。
- 次に、検出した空の領域をテンプレートと入れ替えるため、連続するカメラの動きを推定する。フレーム間のカメラの動きを計算するために、空の領域とその中の物体(太陽や雲など)が無限遠に位置し、前景との相対的な動きがアフィン運動であると仮定している。推定したカメラの動きは仮想カメラに反映し、仮想カメラからのテンプレート画像をレンダリングし実画像と同期させている。
- カメラの動きに基づいてただ合成するだけでは、地面やその他の前景物体との不自然さ(色合いや光の加減など)が残る。この課題を解決するため、最後にライティングとカラーリングを調整して、合成結果を調和したものに仕上げる。
デモでは、晴れから雨などの天候の変換から、天空の城やスーパームーンの出現などを披露している。色合いやダイナミックレンジが調和しているだけでなく、雷の出現時はその時だけ全体が光るなど、動的な変化にも対応している。
関連記事
- 1台のカメラから人の動きを正確に抜き出す技術 Adobeなどが開発
物理的制約に反する不自然さを減らすための技術を導入した。 - 手描きスケッチからリアルな顔を生成 深層学習に画家の手法導入し改善
画家が実際にやっているような作業を取り入れることで、深層学習による合成精度を上げたという。 - コンピュータ不要でレーザー光線に触って遊べるディスプレイ 香港城市大学が開発
LGPUという装置を使うことで、コンピュータやカメラなしでインタラクティブなレーザー操作ができる。 - のぞきこんだ顔が水面でドット絵に 電気分解式泡ディスプレイ「Bubble Mirror」 お茶大が開発
泡ディスプレイラテアートの進化版が登場。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.