Innovative Tech:
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
米カーネギーメロン大学と米FacebookのReality Labsによる研究チームが開発した「TexMesh」(PDFへのリンク)は、実世界の映像から人間の詳細な3Dメッシュデータを再構成する深層学習ベースのフレームワークだ。生成した人物モデルは、どの視点から見てもそれらしく再現されている。
実際に撮影した画像からジオメトリ(形状)とテクスチャをそれぞれ再構築する方法はこれまでも研究されてきたが、細部がぼやけたりして品質としては不十分だった。
今回の手法では、この課題を解決するため、生成した人物データ上で事前学習を行い、実映像に適応させる自己学習フレームワークを採用する。RGB映像とそれに対応する環境マップ、フレーム毎の粗いメッシュを元データに使い、フレーム毎の細かいメッシュと映像全体で共有される高解像度のテクスチャを生成する。得られたメッシュとテクスチャは、リアルな自由視点レンダリングと照明を変更した結果を出力できる。
出力結果は、異なる視点から見ても忠実度の高いレンダリングが行われ、衣服のシワやロゴ、文字などが鮮明に再現されている。衣服のシワもテクスチャではなく、ジオメトリとして正しく推定されていることが分かる。
合成データと実世界のデータを用いて本手法を検証し、定量/定性的に最先端の類似手法を上回る結果となったという。
さらに学習したモデルは、インタラクティブなフレームレートでも動作する。
関連記事
- 1台のカメラから人の動きを正確に抜き出す技術 Adobeなどが開発
物理的制約に反する不自然さを減らすための技術を導入した。 - 手描きスケッチからリアルな顔を生成 深層学習に画家の手法導入し改善
画家が実際にやっているような作業を取り入れることで、深層学習による合成精度を上げたという。 - コンピュータ不要でレーザー光線に触って遊べるディスプレイ 香港城市大学が開発
LGPUという装置を使うことで、コンピュータやカメラなしでインタラクティブなレーザー操作ができる。 - のぞきこんだ顔が水面でドット絵に 電気分解式泡ディスプレイ「Bubble Mirror」 お茶大が開発
泡ディスプレイラテアートの進化版が登場。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.