Innovative Tech

漫画の吹き出しや効果音を自然に消す技術

Innovative Tech:

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

 香港中文大学とCaritas Institute of Higher Educationの研究チームが開発した「Seamless Manga Inpainting with Semantics Awareness」は、深層学習を使い、漫画のせりふの吹き出しや効果音を消して周囲と調和するように塗りつぶす手法だ。

photo 入力画像(左)せりふの吹き出しと効果音を消して補間した画像(右) ©SEIRAN

 漫画の翻訳(日本語から英語など)やアニメ化を行うには、せりふの吹き出しや効果音などを違和感なく除去するインペインティングと呼ばれる技術が必要になる。

photo 効果音を日本語から英語に変換する場合、背景を隠す領域が異なるためインペインティングが必要になる ©SEIRAN
photo 静止画からアニメーションに変換する場合、せりふの吹き出し部分をインペインティングしなければならない ©Shuho Sato

 今回の手法は、漫画に特化した深層学習ベースのインペインティング手法を提案。Semantic inpainting networkとAppearance synthesis networkの2つの深層学習ネットワークモジュールで構成する。

photo ネットワークの概要図 ©A-10

 吹き出しをインペインティングする場合、スクリーントーンは入力画像の周囲のスクリーントーンとはうまくマッチしないケースが多いが、この手法は調和するように学習する。

 この手法を使ったインペインティングを定性的・定量的評価したところ、納得のいく結果が得られ、既存の最先端技術との比較実験でも優れた結果を示したという。漫画から展開していく場合に非常に役立つ可能性がある。

photo 入力画像(左端)この手法を利用し吹き出しをインペインティングした出力結果(右端)既存のインペインティング手法を利用した出力結果(その他中央) ©A-10
印刷する
SNSでシェア
SpecialPR

この記事の著者

山下裕毅
山下裕毅

2014年から幅広い分野の研究論文をピックアップして解説しているメディア「Seamless」(シームレス)を主宰している。

関連記事

こんなメディアも見られています

ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

メールマガジンを配信中
メールマガジンを配信中

国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。

いますぐご登録

本日の新着記事

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

ITmedia NEWS SNS

X @itmedia_newsをフォロー

インフォメーション

ITmediaNEWSをフォロー

あなたにおすすめの記事PR