Innovative Tech
深層学習でリップシンク動画生成 SiriやAlexaにも対応する「Neural Voice Puppetry」
Innovative Tech：
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
ミュンヘン工科大学と独Max Planck Institute for Informatics（MPII）の研究チームが2019年12月に発表した「Neural Voice Puppetry」は、任意の音声を入力を元に、その音声に合わせた写実的な顔のアニメーションを生成する深層学習を用いた手法だ。
この手法を用いると、指定する顔の口元を操り人形のように音声駆動でアイデンティティを保持しながら動かせる。また、テキストを変換した音声合成からも生成できるため、Siri、Alexa、Google Assistantなどのデジタルアシスタントの音声も顔アニメーションに変換可能だ。
（左）デジタルアシスタントの音声を任意の人に合成し話をさせている様子、（右）任意の音声を任意の人に合成し話をさせている様子
パイプラインは、2つの主要部分で構成される。
音声入力からDeepSpeech RNNを用い、ブレンドシェイプで顔の3Dモデルを駆動する基礎係数を予測。
予測した基礎係数を基に、ターゲットの顔モデルをレンダリングするための最適化を行い出力する。
Neural Voice Puppetryのパイプライン
指定する顔が動く2～3分の短いビデオがあれば訓練可能で、インターネット上の短いビデオも利用できるのが特徴。
活用例として、遠隔会議で自分のキャラクターを表示してしゃべらせる、デジタルアシスタントの上半身をプロジェクター等で投影し動かす、動画制作で有名人に話をさせる――などが挙げられる。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
くら寿司、「ちいかわ」コラボ中止 従業員による不正行為判明で
-
2
メルカリ、くら寿司ちいかわ騒動巡りコメント 出品削除・禁止の有無は
-
3
配布前の「ちいかわ」グッズがメルカリに？ くら寿司コラボ第2弾、初日から“内部犯”の臆測呼ぶ 第1弾に続き
-
4
103年前の関東大震災、どこがどれだけ揺れた？ 市区町村別の「詳細震度」マップがXで話題に
-
5
近くの“安いマック”が分かる「価格帯マップ」話題 スタバやコメダも対応 店舗の価格差、独自に調査
-
6
東京23区で「徒歩10分以内」に駅がない地域はどこ？ 駅空白地帯マップが話題
-
7
醸造元に無許可でコラボ？ 神田明神納涼祭りで販売された「VTuber日本酒」が物議 企画者は「事実関係確認中」
-
8
VTuberの名前を一発入力できる「VTuber変換辞書」で騒動 BOOTHで一時販売停止も復活 「当初の判断に誤り」
-
9
Google「Pixel 6a」で充電中に発火、けが人も 消費者庁
-
10
犬を飼うと認知症リスク48％減 東京に住む1万人以上を調査 国立環境研究所や東大など
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR