線画を自動着色、別画像の色合いを参照 KAISTなどが開発：Innovative Tech

[山下裕毅，ITmedia]

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　韓国科学技術院（Korea Advanced Institute of Science and Technology：KAIST）、高麗大学校、NAVER WEBTOONによる韓国研究チームが開発した「Reference-Based Sketch Image Colorization using Augmented-Self Reference and Dense Semantic Correspondence」は、線画を自動着色する機械学習ベースの手法だ。

CelebAとImageNetのデータセットを用いた出力結果。上段行が参照画像、左列が線画

　今回の手法は、参照画像から抜き出した色を線画に色付けするワークフローを採用している。そのため、気に入った画像の色合いをそのまま線画に反映できる。

　このワークフローを実現するために、参照画像の特定の領域から線画の対応するピクセル位置に特徴情報を転送するネットワークを構築する。

　このネットワークでは、データセットの入力画像から線画と参照画像を生成して学習し、視覚的対応関係を訓練する自己教師付き学習スキームを取り入れている。学習用に参照画像と線画のペアを用意する必要がなく、カラー画像のみで行える。

　このようにして得た情報を、SCFT（spatially corresponding feature transfer）モジュールに送る。ここでは、参照画像のどの部分から情報を持ってくるか、線画のどの部分にその情報を転送するかを学習する。

アーキテクチャ

　学習したモデルの出力結果を評価するため、人の顔、物の写真、アニメなど、幅広い領域のデータセットを対象にした。モデルが対応する領域の参照画像をどれだけ忠実に反映しているかを測定するために、SC-PSNRと呼ぶ新規の評価指標も新たに作成した。評価の結果、定性と定量の両方で、この手法が線画の色付けという課題において、既存研究よりもよい結果を示したという。

類似研究との出力結果比較。左列から線画、参照画像、今回の手法による出力結果、類似研究の出力結果、最後に元画像

CelebAデータセットを用いた出力結果。上段行が参照画像、左列が線画

Tag2pixデータセットを用いた出力結果。上段行が参照画像、左列が線画

Edges→Shoesデータセットを用いた出力結果。上段行が参照画像、左列が線画