ITmedia NEWS > AI+ >
ニュース
» 2021年02月02日 07時00分 公開

“歩きスマートグラス”でビデオ会議 横顔の映像を正面顔にリアルタイム変換Innovative Tech

横顔を正面からに変換することで、ハンズフリービデオ会議が可能になる。

[山下裕毅,ITmedia]

Innovative Tech:

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

 マックス・プランク情報学研究所とミュンヘン工科大学によるドイツの研究チームが開発した「Egocentric Videoconferencing」は、眼鏡型デバイスのフレームに取り付けたカメラから横顔の映像を撮影し、正面から見た顔の映像をリアルタイムに生成する、深層学習を用いたシステムだ。イヤフォンとマイク付きスマートグラスに搭載すれば、歩きながらハンズフリーでビデオ会議も可能という。

photo (左)眼鏡フレームに搭載したカメラからの映像(中央)本来の正面顔画像(右)本手法で生成した正面顔画像

 ビデオ会議では通常、PC、タブレット、スマートフォンなどで正面方向から顔を撮影しながら行わなければならない。歩きながら会議に参加する場合は、手持ちしたスマートフォンで自撮りし続ける必要がある。これは手が疲れるだけでなく危険でもある。

 今回の手法では、眼鏡フレームに取り付けた魚眼レンズ搭載カメラで横顔映像を撮影し、正面の顔画像を生成する。

 カメラから撮影した横顔は、Conditional GAN(条件付き敵対的生成ネットワーク)を用いて訓練したネットワークで正面の顔に変換する。顔の造作と髪型などは、あらかじめ用意しておいた中立的な表情を持つ顔の3Dモデルを変化させる。

photo フレームワークの概要

 このシステムでは正面から見た頭部と上半身をリアルな品質で合成し、頭や口の動き、視線、まばたき、舌、微妙な表情まで細部にわたってレンダリングする。さまざまな照明条件下でも合成可能で、音声と同期した唇の動きを出力する。

photolさまざまな人で実験した出力結果

Copyright © ITmedia, Inc. All Rights Reserved.