動く腕にぴったり貼り付いて映像を投影 東工大が開発：Innovative Tech

[山下裕毅，ITmedia]

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　東京工業大学 渡辺研究室の研究チームが開発した「High-Speed Human Arm Projection Mapping with Skin Deformation」は、腕にぴったり追従しするダイナミックプロジェクションマッピングシステムだ。デジタルタトゥーやコントローラーを投影し、腕の表面を“拡張”する。

前腕にぴったり貼り付いているかのように投影される

カラーの投影も可能

コントローラーを投影しインタラクティブな操作も可能

　人間の前腕は面積が広く、視界に入りやすく、もう一方の手で操作しやすい。そのため、映像を表示するスクリーンとして使ったり、特殊メイクやファッショナブルな模様を入れたり、コントローラーを設置したりと使い道が多い。

　しかし、腕のような動く物体に画像をマッピングするためには、皮膚の変形を考慮した上で、動きから投影までの遅延を数ミリ秒以下に抑える必要があるため非常に難しい。腕をひねる（手首の回転運動）などの独特な動きへの対応はさらに困難だ。

　今回は、人体をパラメトリックに3次元で生成できる「SMPLモデル」を使用して投影画像を生成し、テクスチャ座標を修正して効率的に補正する手法を組み合わせた。

　システムは360fpsで撮影できるカメラ8台と最大947fpsで投写できる24bit高速プロジェクターで構成する。

システムの構成

　まずマーカーベースのトラッキングにより前腕の関節情報（位置と姿勢）を取得し、関節データを基にSMPLモデルを用いて腕の表面を再構成する。次に、腕のねじれなどによる皮膚の変形での位置ズレを補正するため、リアルタイムで修正できる回帰ベースの手法を実行。このテクスチャマッピングに基づく補正結果と、先ほどの再構成された腕の表面モデルから、最終的な投影画像を生成する。

補正前（上）補正後（下）黒色が投影画像を表しており、腕にはインクペンで直接黒い十字を描き、皮膚の変形による補正精度を表現している

　この方法により、腕をねじるなどの皮膚の変形を伴う状況でもぴったり貼り付いているような違和感のない投影画像の生成を行え、視覚的にもほとんど気付かれない遅延（10ms）で実行できるという。

特殊メイクを投影している様子