マスクしてても口の動きが見える「Unmasked」：Innovative Tech

[山下裕毅，ITmedia]

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　ルイジアナ州立大学とドミニカン大学による米研究チームが開発した「Unmasked」は、マスクを着用した状態で内側の口の動きをマスク前面のディスプレイに表示するシステムだ。

マスク内の口の動きを3種類の方法で前方ディスプレイに表示し表情を伝える

　コロナ禍でマスクの着用シーンが増えているが、顔の半分が隠れて唇の動きや表情が見えないため、感情表現が伝わりにくくなっている。Unmaskedは、マスクをつけたまま口の動きを対面する人に伝えようという試みだ。

　マスク前面に取り付けた3.5インチ液晶ディスプレイに、着用者の口の動きを反映させる方法を採用。マスクの内側に取り付けた加速度センサー、カメラトラッキング付きLED、ストリーミングビデオのいずれかを使用して口の動きを捉える。

　1つ目の加速度センサーは、唇の上部、側面、下部に取り付け口周辺の加速度を測定。2つ目のLEDも上部、側面、下部に取り付け、光をマスク内の小型カメラで追跡する。取得したデータにより唇の動きをアニメーション化し、ディスプレイに表示する。

加速度センサー搭載マスクで唇のアニメーションを表示するバージョン

LED搭載マスクで唇のアニメーションを表示するバージョン

　3つ目は、マスクの内側に取り付けた小型カメラを使用して、マスク前面のディスプレイに直接口元の映像をストリーミングする、唯一実写を使った方法だ。

ストリーミングで唇の動きを直接表示するバージョン

　これら3つのバージョンの平均精度を検証した結果、加速度センサー搭載マスクは80.21％、LED搭載マスクは82.08％、ストリーミングビデオ搭載マスクは86.46％を示した。一番高い精度を示したストリーミングビデオ搭載マスクは、参加者の中でも最も高評価を獲得した。