Innovative Tech

マスク装着時に話したテキストを翻訳、字幕表示 KAIST「MAScreen」開発

Innovative Tech:

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

 韓国科学技術院(KAIST)の研究チームが開発した「MAScreen」は、マスク着用時の顔の表情と唇の動きを読み取り、マスクの前面に装着したLEDディスプレイに表示するシステムだ。マイクで収録した音声をテキスト化し、他言語に翻訳して字幕表示することもできる。

photo マスク内の表情と唇の動きを捉え、前面のLEDディスプレイに表示する

 マスクで隠れた表情と唇の動きを捉え、その動きを分類してマスク前面のLEDディスプレイに表示する。動きを検出するために、マスク内には反射型光センサーアレイを組み込んでいる。

photo マスク内の構造。LEDディスプレイ、反射型光センサーアレイ、マイクロフォンを組み込んだ

 機械学習アルゴリズムで動きを分類し、唇の動き12種類(大きく開口、口をゆがませる、母音など)、顔の表情11種類(笑顔、怒り、悲しみなど)に分ける。分類精度は99%以上を達成。分類された表情はリアルタイムにLEDディスプレイに表示する。

photo 顔の表情は11種類の中から選択

 マスク内に搭載したマイクで音声を検出する。検出した音声はテキストに変換され、テキストはLEDディスプレイへ右から左へ流れるテロップのように字幕表示される。

photo 音声をテキストに変換し、右から左へ流れるテロップのように字幕表示

 テキストを別の言語へ即座に翻訳し表示することも可能だ。デモ動画では、英語をフランス語や日本語に翻訳し表示している様子を確認できる。

photo 韓国語を英語に翻訳し表示している
印刷する
SNSでシェア
SpecialPR

この記事の著者

山下裕毅
山下裕毅

2014年から幅広い分野の研究論文をピックアップして解説しているメディア「Seamless」(シームレス)を主宰している。

関連記事

こんなメディアも見られています

ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

メールマガジンを配信中
メールマガジンを配信中

国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。

いますぐご登録

本日の新着記事

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

ITmedia NEWS SNS

X @itmedia_newsをフォロー

インフォメーション

ITmediaNEWSをフォロー

あなたにおすすめの記事PR