漫画の吹き出しや効果音を自然に消す技術：Innovative Tech

[山下裕毅，ITmedia]

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　香港中文大学とCaritas Institute of Higher Educationの研究チームが開発した「Seamless Manga Inpainting with Semantics Awareness」は、深層学習を使い、漫画のせりふの吹き出しや効果音を消して周囲と調和するように塗りつぶす手法だ。

入力画像（左）せりふの吹き出しと効果音を消して補間した画像（右）　©SEIRAN

　漫画の翻訳（日本語から英語など）やアニメ化を行うには、せりふの吹き出しや効果音などを違和感なく除去するインペインティングと呼ばれる技術が必要になる。

効果音を日本語から英語に変換する場合、背景を隠す領域が異なるためインペインティングが必要になる　©SEIRAN

静止画からアニメーションに変換する場合、せりふの吹き出し部分をインペインティングしなければならない　©Shuho Sato

　今回の手法は、漫画に特化した深層学習ベースのインペインティング手法を提案。Semantic inpainting networkとAppearance synthesis networkの2つの深層学習ネットワークモジュールで構成する。

ネットワークの概要図　©A-10

　吹き出しをインペインティングする場合、スクリーントーンは入力画像の周囲のスクリーントーンとはうまくマッチしないケースが多いが、この手法は調和するように学習する。

　この手法を使ったインペインティングを定性的・定量的評価したところ、納得のいく結果が得られ、既存の最先端技術との比較実験でも優れた結果を示したという。漫画から展開していく場合に非常に役立つ可能性がある。

入力画像（左端）この手法を利用し吹き出しをインペインティングした出力結果（右端）既存のインペインティング手法を利用した出力結果（その他中央）　©A-10