1枚の顔写真にリアルな動きを 韓国企業「MarioNETte」開発：Innovative Tech

他人の動きで人の顔を操ることができる。しかも自然に。

[山下裕毅，ITmedia]

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　韓国のスタートアップ、Hyperconnectが2019年11月に発表した「MarioNETte」は、画像内の人物を写実的に動作させる合成技術だ。上下左右の顔全体の動き、目や口の部分的な動きまでを再構築する。

MarioNETteの出力結果。上段行がターゲット画像、左列がドライバー画像

　これまでターゲット画像（操られる側）に、ドライバー画像（操る側）を転送し合成アニメーションを生成する技術は数多く研究されてきた。しかし転送後のターゲット画像の特徴を保つことには四苦八苦している。自然に見せるための重要な課題だ。

　新技術では、これまでより特徴を保持した現実的な合成アニメーションを生成する。加えて、少ないターゲット画像（1〜8枚）で生成し、任意のターゲット画像へ転送できるのも特徴だ。

MarioNETteのアーキテクチャ

　パイプラインでは、各画像を入力に3Dランドマーク検出器を用い、ターゲット画像とドライバー画像の顔のキーポイントを抽出しエンコード。出力系列の要素と強く相関する入力系列の要素を抽出し、最後にターゲット画像とドライバー画像の特徴の不一致をさらに調整するため、敵対させ精度を高める。