ITmedia NEWS > AI+ >
ニュース
» 2020年02月20日 08時22分 公開

Innovative Tech:1枚の顔写真にリアルな動きを 韓国企業「MarioNETte」開発

他人の動きで人の顔を操ることができる。しかも自然に。

[山下裕毅,ITmedia]

Innovative Tech:

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

 韓国のスタートアップ、Hyperconnectが2019年11月に発表した「MarioNETte」は、画像内の人物を写実的に動作させる合成技術だ。上下左右の顔全体の動き、目や口の部分的な動きまでを再構築する。

photo MarioNETteの出力結果。上段行がターゲット画像、左列がドライバー画像

 これまでターゲット画像(操られる側)に、ドライバー画像(操る側)を転送し合成アニメーションを生成する技術は数多く研究されてきた。しかし転送後のターゲット画像の特徴を保つことには四苦八苦している。自然に見せるための重要な課題だ。

 新技術では、これまでより特徴を保持した現実的な合成アニメーションを生成する。加えて、少ないターゲット画像(1〜8枚)で生成し、任意のターゲット画像へ転送できるのも特徴だ。

photo MarioNETteのアーキテクチャ

 パイプラインでは、各画像を入力に3Dランドマーク検出器を用い、ターゲット画像とドライバー画像の顔のキーポイントを抽出しエンコード。出力系列の要素と強く相関する入力系列の要素を抽出し、最後にターゲット画像とドライバー画像の特徴の不一致をさらに調整するため、敵対させ精度を高める。

Copyright © ITmedia, Inc. All Rights Reserved.