Innovative Tech

“顔認識されない”使い捨てマスク　AIがオーダーメイドで柄を作成

公開 2022年07月27日 08時01分

更新 2024年04月02日 11時27分

著者

山下裕毅

[ITmedia]

印刷する Googleで優先するソースとして追加

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　イスラエルのBen-Gurion University of the NegevとイスラエルのTel Aviv Universityによる研究チームが開発した「Adversarial Mask: Real-World Universal Adversarial Attack on Face Recognition Models」は、カメラで捉えた顔を認識するシステムにおいて、検出されないようにする特殊なマスクだ。

　紙製および布製のフェイスマスクに深層学習で計算し作成した敵対的なパターンを印刷することで実現する。実験において、このマスクを着用することで約96％以上の精度で誤認識させることができたという。

（左）マスクなし、（中央）使い捨てマスク、（右）敵対的なパターンが印刷されたマスク。この手法だけ顔認識システムを回避している

（左）マスクなし、（右）敵対的なパターンが印刷されたマスク

　COVID-19の流行により、フェイスマスクの着用が習慣化され、当初は世界中の街中や施設内などで使用されている多くの顔認識システムに支障をきたしていた。しかし時間とともに技術は進化し、医療用マスクやその他のマスクを着用している人を正確に認識できるように適応してきた。

　これまでにも、カメラに映る顔を認識されないようにする物理的方法は試されてきた。例えば、敵対的な眼鏡をかける。人間の顔に光を投影する。敵対的なステッカーを貼った帽子をかぶる。敵対的な化粧をする。敵対的なフルフェイスマスクをかぶるなどが提案されている。しかし提案された攻撃方法は目立つため、実世界のシナリオに自然に溶け込むことができず実用性がない。

　今回は日常に溶け込みながら顔認識を回避する方法として、敵対的なパターンを印刷した柄マスクで攻撃する手法を提案する。この特殊なマスクは深層学習の勾配ベースの最適化プロセスを用い、敵対的なパターンを作成してそのパターンをマスク外側に印刷することで作成する。

敵対的なパターンを作成するパイプライン

　紙や布どちらにプリントしても意図した通りに機能し、どのような人物に対しても、複数の視点・角度・スケールで有効である。また男性・女性を問わず着用者を正体不明と誤判定させ欺く。

　このマスクの利点の1つは、周囲からは一見普通の柄マスクに見えるため、顔認識システムを欺くためのマスクと分からない点だ。これまでの欺く手法と違い、日常に溶け込むことができる。

　また、この敵対的なパターンを作成するプロセスにランダム化を加えれば、出来上がったパターンを微妙に異なるものにできるため、対策が打たれにくいという利点もある。各ユーザーに対し、オーダーメイドの柄を印刷できるわけだ。

　さらに、学習段階で全てのマスクされた顔画像を前処理して、その人物が標準的なマスク（例えば、青い手術用マスク）を着用しているように見せることもできるという。

　実験では、実際に参加者にマスクを装着してもらい認識できるかをテストした。その結果、敵対的なパターンが印刷されたマスクでは30人中29人（約96.6％）を隠蔽（いんぺい）することができた。

今回の手法以外の他のマスクでは顔認識システムに識別される

　研究チームは攻撃に対しての対策も3つ提案している。（1）敵対的なパターンを含む顔画像を使って顔認識モデルを学習させる。（2）顔の上の部分だけを見て識別できるよう顔認識モデルを学習させる。（3）顔の上部をもとに顔の下部を生成するように顔認識モデルを学習させる。

Source and Image Credits: Zolfi, Alon, et al. “Adversarial Mask: Real-World Adversarial Attack Against Face Recognition Models.” arXiv preprint arXiv:2111.10759 (2021).

印刷する