「音声・動画翻訳」は、スマートフォンで再生中の動画や音声を翻訳し、字幕として画面に重ねて表示するモードだ。日本語訳の音声をイヤフォンで聞くこともできる。今回は、YouTubeで公開されている「Made by Google 2026」の冒頭9分37秒を使い、翻訳モデル(高精度/高速)とネイティブ表現(オン/オフ)を組み合わせた4つの条件で試した。
ネイティブ表現をオフにした状態では、英語の文字起こしも日本語訳の字幕も、ほぼリアルタイムで表示された。訳の大半は意味が通っており、話の流れを追うのに困ることはないだろう。
一方、翻訳音声は訳文を全て読み上げるため発話のペースに追い付かず、遅れが積み重なっていく。動画を停止した9分37秒の時点では、約2分の遅れが生じていた(筆者の手動計測による目安)。字幕を読むなら問題ないが、音声だけで内容を追うのは難しい。なお、翻訳モデルの高精度と高速の違いは、今回の動画でははっきりしなかった。
挙動が大きく変わったのは、ネイティブ表現の設定だ。オンにすると、英語の文字起こしの段階で原文が短くまとめられ、訳文も短くなった。書き出したテキストで比べると、日本語訳はオフの約5000字に対してオンは約2000字にとどまり、YouTubeの公式日本語字幕(約3200字)よりも短い。
例えば、司会者が「検索ルーレットは自分がGoogleに提案して断られた機能だ」と話す部分は、ネイティブ表現オンでは丸ごと抜け落ちていた。また、翻訳字幕の表示もオフより遅れる。
その代わり、音声の遅れは15秒前後(同じく目安)にとどまった。文章自体が短くなっている以上、当然の結果といえる。音声で大まかな内容をつかむ用途ならオンにも使い道はあるが、細かなニュアンスを含め、話の半分以上が抜け落ちてしまう。発表会の配信や講演を見るなら、オフにして字幕を読むのが無難だろう。
Timekettleは発表会で、ネイティブ表現を直訳調を抑えて文脈に合った自然な表現に整える機能だと説明していた。しかし実際の動作を見る限り、言い回しを整えるだけでなく、発言の内容そのものを短くまとめているようだ。
なお、動画翻訳でも要約とAI議事録を作成できる。ただし、記録は端末のアプリ内にのみ保存されるため、機種変更などをすると履歴は引き継がれない。残したい記録は書き出しておく必要がある。
「切替通訳」は、相手の話をスマートフォンのマイクで拾って訳をイヤフォンに流し、自分の発言はイヤフォンで拾って訳をスマートフォンのスピーカーから流すモードだ。アプリの「聞く」と「話す」を切り替えて使う。イヤフォンを装着するのは自分だけで済む。
今回は「聞く」側のテストとして、PCで再生した英語の動画をスマートフォンのマイクで拾って翻訳させた。結果は音声/動画翻訳とほぼ同等で、PCで視聴する海外の配信やWebセミナーを聞くだけなら、この方法でPC非対応を補える。
ただし、PCのスピーカーから音を出す必要があるため、ヘッドフォンで聞く場合や周囲に人がいる場所では使いにくい。Web会議で使う場合も、相手の話を聞けるだけで、自分の発言は訳せない。
双方向で通訳するなら、スマートフォンかタブレットから会議に参加し、通話・Web会議向けの「通話通訳」モードを使う必要がある。今回は2台の端末を別々のアカウントでGoogle Meetにつなぎ、1人で両方の役をこなす形で試した。通話の開始時には、翻訳機能を使っていることを相手に知らせるアナウンスを流せる他、自分の声は相手に流さず、翻訳音声だけを届ける設定も用意されている。
話し終えてから翻訳音声が流れるまでは、文の区切りがはっきりしていれば1〜2秒程度(体感)で、思ったより自然に会話できそうだと感じた。意識して短く区切って話すのがコツだろう。ただし、相手役も自分自身のため、実際の相手と話したときのテンポまでは確認できていない。
話を切替通訳に戻すと、「話す」側では片方のイヤフォンで自分の声を拾う。左右どちらのイヤフォンが使われるかは、装着した順番などによってその都度変わるようだ。
日付や金額、主語の省略、遠回しな断りなどを含む12の例文を用意し、専門分野を「IT」に設定して2回ずつ読み上げたところ、2回とも12文全てが意味の通る英語に訳された。「1台当たり4万7599円」は“47,599 yen per unit”、「チェックアウトを延ばせますか」は“Could you extend my check-out time”と、数字や依頼の表現も正しく訳されていた。
表:読み上げた12の例文と結果 ○:意味が正しく伝わった △:伝わるが不正確(用語の誤認識など) ×:意味が崩れた、または逆になった ※W4 Plusはオンライン、オフラインとも2回、Galaxy AIは1回の読み上げオンラインで不正確だったのは1回目の1文のみで、「Fold」が「フォルダ」と認識され、“folder”と訳された(2回目は正しく認識された)。アプリには用語を登録できる「カスタマイズ用語集」もあるが、現時点で登録できるのは英語、中国語、スペイン語の用語のみで、日本語の用語は登録できなかった。今後の日本語対応に期待したい。
「録音+文字起こし」を耳元で完結 Nottaユーザー必携の“常時装着”AIレコーダー「Zenchord 1」を試す
月額0円でも実力派、文字起こし&要約が無制限のカードサイズAIボイスレコーダー「Comu Action Pro」を試す
機能は同じでも印象はガラリ カメラなしスマートグラス「Even G2」にべっ甲柄の新色 新しい偏光サングラスクリップやチェーンも登場
HTC、日常的に交流を楽しめる手乗りサイズのAIデバイス「VIVEE」
約22万円の新型「Mac mini」で初めてのローカルAI体験 ストレージの価格高騰対策にピッタリかもCopyright © ITmedia, Inc. All Rights Reserved.