Innovative Tech
天空の城を出現させる深層学習技術 動画内の空を入れ替える「Castle in the Sky」
Innovative Tech:
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
米ミシガン大学の研究員が開発した「Castle in the Sky」は、映像に記録した空を別のものに置き換える、深層学習を用いた合成法だ。従来の手法では動画撮影時にスマートフォン搭載のモーションセンサーが必要だったが、今回のアプローチでは画像情報のみ使う。
撮影後の映像編集に使えるだけでなく、ARとしてリアルタイム表示できる。
合成プロセスは3ステップで行われる。
- 映像フレームを入力とし、深層学習ネットワークを使用し空の領域を検出する。セグメンテーションで空のマスク領域を推定する。
- 次に、検出した空の領域をテンプレートと入れ替えるため、連続するカメラの動きを推定する。フレーム間のカメラの動きを計算するために、空の領域とその中の物体(太陽や雲など)が無限遠に位置し、前景との相対的な動きがアフィン運動であると仮定している。推定したカメラの動きは仮想カメラに反映し、仮想カメラからのテンプレート画像をレンダリングし実画像と同期させている。
- カメラの動きに基づいてただ合成するだけでは、地面やその他の前景物体との不自然さ(色合いや光の加減など)が残る。この課題を解決するため、最後にライティングとカラーリングを調整して、合成結果を調和したものに仕上げる。
デモでは、晴れから雨などの天候の変換から、天空の城やスーパームーンの出現などを披露している。色合いやダイナミックレンジが調和しているだけでなく、雷の出現時はその時だけ全体が光るなど、動的な変化にも対応している。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
ドンキのAI社員「近藤あい」が正式デビュー 販促POPや動画で活躍へ 運営元「すでに裏に20人ぐらいいる」
-
2
「焼肉きんぐ」「ゆず庵」など11アプリ、会員の氏名・電話番号の項目を廃止 予定を前倒し
-
3
湘南美容クリニックのSBC、162万人分の個人情報流出 パスワードは「暗号化せず保存していた」
-
4
PHP「緊急」脆弱性、サービス一時停止の動き再び ウマ娘やグラブル、イープラスなど緊急メンテ
-
5
「楽天証券」漏えい、あなたは対象? ログインして「重要なお知らせ」確認を
-
6
六花亭、カード番号全桁+セキュリティコード約8000件流出か 決済画面のプログラム改ざん
-
7
美少女ゲーム「NIKKE」経由でマルウェア感染 北海道2自治体、委託先が認める
-
8
デジ庁、政府機関向けファイル共有サービスで漏えいか 7月末から第三者がアクセス
-
9
片山財務相、楽天証券は「顧客の不安解消に、できること全部していただきたい」
-
10
楽天証券漏えい、“テスト環境に顧客情報”のマズさ 識者「一般的でない」
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR