1台のカメラから人の動きを正確に抜き出す技術 Adobeなどが開発：Innovative Tech

物理的制約に反する不自然さを減らすための技術を導入した。

[山下裕毅，ITmedia]

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　米スタンフォード大学と米Adobe Researchの研究チームが開発した「Contact and Human Dynamics from Monocular Video」は、1台のカメラで1方向から撮影された映像を用い、人物の動きを正確に3次元で再現する、深層学習ベースのフレームワークだ。

単眼カメラで撮影した映像内の人物の動きを正確に抽出する

　これまでも単眼カメラ撮影からの姿勢推定は行われてきたが、足が浮く、ジリジリとした振動が発生、足が地面を貫通する、体が極端に傾くといった、物理的制約に反したエラーが起きていた。特に、側面から確認するとそれらが顕著に表れた。

　これらのエラーを改善するため、学習した姿勢推定と軌道の最適化による物理的推定を組み合わせ、単眼映像から動的に有効な全身運動を抽出する新しい手法を提案する。ダンスやスポーツなどの激しい運動を1人で行う映像に焦点を当てている。

本手法のパイプライン

　入力映像から予測した姿勢をもとに、重心の運動、足の位置、地表面、接触力を推定するように学習。この学習により、正確な重心による姿勢と各足のつま先とかかとが地面に接触する正確な位置やタイミング、接地時間を取得する。このデータを統合することで、不自然さが軽減される。

（左）入力映像（中央）上からつま先が浮く、足が地面にめり込む、姿勢が傾くアーティファクト（右）本手法により不自然さが軽減された様子

　このように地面との接触と姿勢の傾きを補正することで、入力画像の動きに忠実な全身運動を出力できる。地面と足との接触推定と動作最適化の定性・定量的な評価も行い、良好な結果が得られたとしている。

　抽出したモーションデータは、バーチャルキャラクターに転写しアニメーションとして再構成することも可能だ。

抽出した動きをキャラクターに転写した様子。質量によって動きが変わる