動きに貼り付く映像技術「ダイナミックプロジェクションマッピング」の変遷（5/8 ページ）

[山下裕毅，ITmedia]

動く顔への追従投影

　ここまでくるとエンターテインメント業界が放っておかない。世界的ダンサーであるAyaBambiとコラボレーションした「INORI (prayer) 」はその一例だ。激しく動くダンサーの顔と手を追跡し投影し続ける様子は、あたかも皮膚の一部となって一体化する先進的な表現を実現している。

激しく踊るAyaBambiの顔にダイナミックプロジェクションマッピングが適用される

　このようなダイナミックプロジェクションマッピングを顔に投影するパフォーマンスは、見る者を一瞬で驚かせる。しかし、INORI (prayer) は顔全体を追跡しているにすぎず、口や頬などの動きを含む表情の変化には対応していない。また顔へのマーカー貼り付けと、複数台のプロジェクターを必要とした。

　米Disney Research、米プリンストン大学、スウェーデン・チャルマース工科大学、大阪大学による研究チームは2017年、高速プロジェクターと高速カメラを使って顔の向きや表情を追従し投影するプロジェクションマッピングシステム「Makeup Lamps」を発表した。

　本システムはこれまでのマーカーを使った追跡ではなく、赤外線ライトを用い、位置合わせした高速カメラで顔の向きや表情を検出する。顔の動きと非剛体変形はカルマンフィルタリングによって予測。この動きに合わせて画像を投影し、表情変化に応じたインタラクティブな投影を可能にする。

　プロトタイプは、マルチスレッドCPUとGPUを組み合わせた実装により、平均遅延9.8msに抑えた追従投影を実現した。動画では、眉毛や口の動きに合わせてピエロの顔が動く様子を確認できる。

　2018年開催のAugmented World Expoで実施の講演「The Death of Reality」では、登壇者の動く顔の表情を追従し映像投影するプロジェクションマッピングを披露した。トム・エムリッチ氏、浅井宣通氏、東京工業大学 渡辺義浩氏の3者がコラボレーションしたプロジェクトだ。

登壇者トム・エムリッチ氏の表情に合わせて追従投影している

　このシステムでは高速カメラによりマーカーレスで顔の表情を検出し、その位置と変形に応じた映像を生成、高速プロジェクターDynaFlashにより投影している。

　基礎テストの様子を記録した映像は、頭部や口の素早い動きに反応し、顔にぴったり貼り付いているかのように投影し続ける様子が確認できる。