人物と服の質感を忠実に3D化 Facebookなど「TexMesh」開発：Innovative Tech

[山下裕毅，ITmedia]

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　米カーネギーメロン大学と米FacebookのReality Labsによる研究チームが開発した「TexMesh」（PDFへのリンク）は、実世界の映像から人間の詳細な3Dメッシュデータを再構成する深層学習ベースのフレームワークだ。生成した人物モデルは、どの視点から見てもそれらしく再現されている。

衣服のシワや服のプリントなど含めリアルなテクスチャ、異なる視点から見ても違和感のない3Dモデルが生成される

　実際に撮影した画像からジオメトリ（形状）とテクスチャをそれぞれ再構築する方法はこれまでも研究されてきたが、細部がぼやけたりして品質としては不十分だった。

　今回の手法では、この課題を解決するため、生成した人物データ上で事前学習を行い、実映像に適応させる自己学習フレームワークを採用する。RGB映像とそれに対応する環境マップ、フレーム毎の粗いメッシュを元データに使い、フレーム毎の細かいメッシュと映像全体で共有される高解像度のテクスチャを生成する。得られたメッシュとテクスチャは、リアルな自由視点レンダリングと照明を変更した結果を出力できる。

本手法フレームワークの概要図

自由視点レンダリングと照明変更の出力結果

　出力結果は、異なる視点から見ても忠実度の高いレンダリングが行われ、衣服のシワやロゴ、文字などが鮮明に再現されている。衣服のシワもテクスチャではなく、ジオメトリとして正しく推定されていることが分かる。

　合成データと実世界のデータを用いて本手法を検証し、定量／定性的に最先端の類似手法を上回る結果となったという。

　さらに学習したモデルは、インタラクティブなフレームレートでも動作する。