Amazon Echoが夫婦の会話を勝手に録音して送信 どうしてこうなった?:ITはみ出しコラム
シアトルのとある家庭で、Amazon Echoが夫婦の会話を勝手に録音して、しかも他人に送信してしまうというトラブルが発生しました。その原因と対策について考えます。
米Amazon.comの音声アシスタント「Alexa」がユーザーのプライベートな会話を“勝手に”録音した上に、それを他人に送りつけたというニュースが注目を集めています。シアトルのローカルテレビ局KIRO 7が5月24日(現地時間)に紹介し、世界中で話題になりました。
Alexa対応のスマートスピーカー「Amazon Echo」を自宅の全室に置いてスマートホームを楽しんでいたダニエルさんにある日、夫の部下から電話がありました。ダニエルさん夫妻の自宅での会話を録音したファイルが、この部下のスマートフォンに届いたというのです。会話の内容(フローリングの話)についての説明を聞いて本当だと確信したダニエルさんは、全てのEchoの電源を引っこ抜きました。
そして、Amazonに問い合わせたところ、その出来事を認めたのでした。日本ではまだ使えませんが、Echoには、登録してある連絡先を指定して相手にメッセージを送る機能があります。この機能が誤って働いたようです。
Amazonは当初ダニエルさんに原因を説明しませんでしたが、メディアに以下のような声明文を送りました。
Echoは、「Alexa(アレクサ)」のように聞こえる言葉でウェイク(指示待ち状態になる)した後、「メッセージを送信」と聞こえる音を命令と判断し、「誰に?(送りますか)」と声で答えた。そのタイミングで会話中のユーザーの連絡先リストにある名前に聞こえた音を送信先と解釈し、「○○さんですね?」とまた声で確認したところ、会話中に「そうだ」と聞こえた音を合意と解釈した。このようなことが連続して起こるのは非常に珍しい。それでも再発を少なくするための選択肢を検討している。
Amazonの説明も分からなくはありません。うちのAlexaもGoogleアシスタントも、結構頻繁に何かの音に誤反応してウェイクするので。「Google Home Mini」は仕事机のPCのすぐ横に置いてあるので、1日に何度もテレビや会話に誤反応してLEDがちらちら光るのが見えます。私の耳にはとてもウェイクワードの「ねぇ Google」に似ているようには聞こえない音でもちらちらと光るので面白いです。
ダニエルさん、Alexaが声を出した段階で気付かなかったの? とは思いますが、Echoのマイクはかなり離れたところからでも命令を聞けるようになっています。広いリビングなどでEchoから離れて背を向けて会話していたら、Alexaの声を聞き逃しそうです。
個人的には、どんな技術でも黎明(れいめい)期にはトラブルがつきもので、こうしたドタバタを経て改善されていくものだと思っています。
とはいえ、AlexaもGoogleアシスタントも、変に気を利かせ過ぎなところがあります。聞き取りにくかったら、ちゃんと聞き返せばいいのに、意味不明なことを言っても、何とか意味のある文として解釈しようとする場合があるのです。
例えば、リマインダーの設定で、リマインダーの内容を「ぷしゅぷしゅぷしゅー」と適当に言ったら、Alexaは「百引く二分」と聞き取り、Googleアシスタントは「曲 縮小」と聞き取りました。
この空耳上等なところはユーザーの音声データを今後もどんどん集めて改善していけるでしょうが、差し当たりせめてウェイクワードだけは聞き間違いしないように早急に改善してほしいところです。
スマートスピーカーは常時耳を澄ませていますが、ずっと録音しているわけではありません。ウェイクワードが聞こえると、その数分の一秒前からの音声をクラウドに送ります。だからウェイクワードさえ間違えなければ、ダニエルさんのような事故は起こりにくくなるはずです。
例えば、言語ごとに他にはあまり使わない、しかも聞き間違いにくい単語を研究して作り、それをウェイクワードにしたらどうでしょう。Alexaのウェイクワードは現在、「Alexa」「Echo」「Amazon」「コンピュータ」の4つから選べますが、Alexa以外でも日常会話に出てきがちな単語だし、似たような音も多そうです。不自然なウェイクワードは当然言いにくいでしょうけど、聞き間違いは少なくできます。
ところでアグレッシブなAmazonは、ウェイクワードがなくても、ユーザーがAlexaに命令するつもりがなくても、Alexaがキーワード(「買った」とか「気に入った」とか)を聞き取るとその単語を含む会話の部分をサーバに送り、ユーザーの役に立てようとしているそうです(米The New York Timesより)。
それはほんとに、もっと精度を上げてからにしてほしい。そして、実用化するとしたら、もちろんオプトインのオプションじゃないと大変なことになるかもしれません。
ダニエルさんはシアトル在住でしたが、もし同じような事故が5月25日に「EU一般データ保護規則(GDPR)」が施行されたEU地域で起こったら、Amazonにとってかなりマズいことになりそうです。
関連記事
「Amazon Echo」と「Google Home」を120日使い比べて分かった優劣
スマートスピーカーを代表する「Amazon Echo」と「Google Home」は何が違うのか、どちらが優れているのか。4カ月以上これらを使い比べてきた筆者が、七番勝負で判定する。「スマートスピーカーの誤反応」はどれくらい起こる? 100時間テストした結果
スマートスピーカーやその関連デバイスについて、試行錯誤を繰り返しつつ、機能をバリバリ使えるようになる(予定)までの過程を、時系列でお届けする本連載。今回はスマートスピーカーがテレビの音声でどれだけ誤反応を起こすか、約100時間にわたってテストを行った。Amazon Echoが“突然笑い出す”怪現象とは何だったのか
スマートスピーカー「Amazon Echo」が突然笑い出すというちょっとホラーな現象が米国で話題になりました。この問題に対し、米Amazon.comはコメントを出しましたが……。「Amazon Alexa」は家庭に、職場に、そして病院にも増殖する?
世界各地のAmazonで売れているAmazon Echoシリーズ。今後は家庭に限らず、オフィスに、そしてヘルスケア領域にもどんどん進出していくかもしれません。スマートスピーカーはやっぱり好きな名前で呼びたい?
スマホだけでなくスマートスピーカーに話し掛けるのが当たり前の時代になりそうですが、「Hey Siri」は日本人にはちょっと恥ずかしいし、「ねぇ、Google」は何だか味気ないような気がします。Amazon Echoユーザーの新常識 こんなスマートホームデバイスは「買ってはいけない」
スマートスピーカーやその関連デバイスについて、試行錯誤を繰り返しつつ、機能をバリバリ使えるようになる(予定)までの過程を、時系列でお届けする本連載。今回は、Amazon Echoの初心者が引っ掛かりやすい「買ってはいけない」スマートホームデバイスの典型的な例を、3つピックアップして紹介する。【実録】ネット切断時にスマートスピーカーは使えるのか
スマートスピーカーやその関連デバイスについて、試行錯誤を繰り返しつつ、機能をバリバリ使えるようになる(予定)までの過程を、時系列でお届けする本連載。今回はインターネット回線の切断時にスマートスピーカーはどのような挙動を示すのか、その実録をお届けする。
Copyright © ITmedia, Inc. All Rights Reserved.