単眼カメラで上半身の動きを反映できるVTuberアプリ AIの姿勢推定技術で実現 記者も試してきた

[村田朱梨，ITmedia]

　スマートフォンのインカメラでユーザーの表情と上半身の動きを読み取り、バーチャルキャラクターに反映しながらライブ配信できるアプリ「GooMe」（iOS向け）を、ベンチャーのトライフォート（東京都渋谷区）が開発した。まずはライブ配信機能を省いた体験版をiPhone X、iPhone XS、iPhone XS Max向けに、11月13日から提供する。

発表会の様子

配信者の動きを反映する様子。左がモーションキャプチャー、右が実際の配信画面

　AI（人工知能）を活用した「OpenPose」と呼ばれる人の姿勢推定技術を採用。スマホの単眼カメラで撮影した平面の映像から、ユーザーの頭、左右の肩、肘、手首、腰の位置を検出し、バーチャルキャラクターに反映できる。従来、人の動きをバーチャルキャラクターに反映するには、体に複数のセンサーを取り付けるなど、大掛かりな機械が必要だった。

　ライブ配信の視聴もGooMeアプリから行う。上半身と顔の動きは3D座標データに変換し、音声データと合わせて視聴者のアプリに配信。視聴者側のアプリで受け取った3D座標データをリアルタイムで3D空間に書き出してキャラクターを動かす。ライブ配信するデータに映像を含まないのが特徴だ。YouTubeなどの外部動画サービスには対応していない。

GooMeの概要

GooMeの仕組み

　記者も実際に試してみた。こちらが手を振ると、少し遅れてバーチャルキャラクターも手を振った。素早い動きを検出するのが難しいのか、腕をぐるぐる回すと、バーチャルキャラクターは肘から先が腹から生えているように見えてしまうなど、不自然に表示されることも多かった。

体験版で使えるキャラクターの見た目はランダムで決まるため、少し時間を置いてから試すと、別の女の子に切り替わった

　11月下旬に提供予定のβ版では対応機種を増やし、ライブ配信機能も実装する。

　スマホ1台で3Dキャラクターを作成し、ライブ配信できるアプリは、ドワンゴの「カスタムキャスト」や、グリー子会社の「REALITY Avatar」などが先行している。トライフォートの大竹慎太郎社長は「われわれにはゲーム開発や受託開発で培った知見やノウハウがある。AIの活用など、技術で差別化する」と話している。