コラム
» 2018年05月27日 06時00分 公開

ITはみ出しコラム:Amazon Echoが夫婦の会話を勝手に録音して送信 どうしてこうなった?

シアトルのとある家庭で、Amazon Echoが夫婦の会話を勝手に録音して、しかも他人に送信してしまうというトラブルが発生しました。その原因と対策について考えます。

[佐藤由紀子,ITmedia]

 米Amazon.comの音声アシスタント「Alexa」がユーザーのプライベートな会話を“勝手に”録音した上に、それを他人に送りつけたというニュースが注目を集めています。シアトルのローカルテレビ局KIRO 7が5月24日(現地時間)に紹介し、世界中で話題になりました

 Alexa対応のスマートスピーカー「Amazon Echo」を自宅の全室に置いてスマートホームを楽しんでいたダニエルさんにある日、夫の部下から電話がありました。ダニエルさん夫妻の自宅での会話を録音したファイルが、この部下のスマートフォンに届いたというのです。会話の内容(フローリングの話)についての説明を聞いて本当だと確信したダニエルさんは、全てのEchoの電源を引っこ抜きました。

 そして、Amazonに問い合わせたところ、その出来事を認めたのでした。日本ではまだ使えませんが、Echoには、登録してある連絡先を指定して相手にメッセージを送る機能があります。この機能が誤って働いたようです。

alexa 1 KIRO 7の取材に応じるダニエルさん

 Amazonは当初ダニエルさんに原因を説明しませんでしたが、メディアに以下のような声明文を送りました。

 Echoは、「Alexa(アレクサ)」のように聞こえる言葉でウェイク(指示待ち状態になる)した後、「メッセージを送信」と聞こえる音を命令と判断し、「誰に?(送りますか)」と声で答えた。そのタイミングで会話中のユーザーの連絡先リストにある名前に聞こえた音を送信先と解釈し、「○○さんですね?」とまた声で確認したところ、会話中に「そうだ」と聞こえた音を合意と解釈した。このようなことが連続して起こるのは非常に珍しい。それでも再発を少なくするための選択肢を検討している。

 Amazonの説明も分からなくはありません。うちのAlexaもGoogleアシスタントも、結構頻繁に何かの音に誤反応してウェイクするので。「Google Home Mini」は仕事机のPCのすぐ横に置いてあるので、1日に何度もテレビや会話に誤反応してLEDがちらちら光るのが見えます。私の耳にはとてもウェイクワードの「ねぇ Google」に似ているようには聞こえない音でもちらちらと光るので面白いです。

alexa 2 「Google Home Mini」は仕事机のPCのすぐ横に置いてあるので、1日に何度もテレビや会話に誤反応します

 ダニエルさん、Alexaが声を出した段階で気付かなかったの? とは思いますが、Echoのマイクはかなり離れたところからでも命令を聞けるようになっています。広いリビングなどでEchoから離れて背を向けて会話していたら、Alexaの声を聞き逃しそうです。

 個人的には、どんな技術でも黎明(れいめい)期にはトラブルがつきもので、こうしたドタバタを経て改善されていくものだと思っています。

 とはいえ、AlexaもGoogleアシスタントも、変に気を利かせ過ぎなところがあります。聞き取りにくかったら、ちゃんと聞き返せばいいのに、意味不明なことを言っても、何とか意味のある文として解釈しようとする場合があるのです。

 例えば、リマインダーの設定で、リマインダーの内容を「ぷしゅぷしゅぷしゅー」と適当に言ったら、Alexaは「百引く二分」と聞き取り、Googleアシスタントは「曲 縮小」と聞き取りました。

alexa 3 「ぷしゅぷしゅぷしゅー」のそれぞれの解釈(上がAlexa、下がGoogleアシスタント)

 この空耳上等なところはユーザーの音声データを今後もどんどん集めて改善していけるでしょうが、差し当たりせめてウェイクワードだけは聞き間違いしないように早急に改善してほしいところです。

 スマートスピーカーは常時耳を澄ませていますが、ずっと録音しているわけではありません。ウェイクワードが聞こえると、その数分の一秒前からの音声をクラウドに送ります。だからウェイクワードさえ間違えなければ、ダニエルさんのような事故は起こりにくくなるはずです。

alexa 4 ずっと録音しているわけではありません

 例えば、言語ごとに他にはあまり使わない、しかも聞き間違いにくい単語を研究して作り、それをウェイクワードにしたらどうでしょう。Alexaのウェイクワードは現在、「Alexa」「Echo」「Amazon」「コンピュータ」の4つから選べますが、Alexa以外でも日常会話に出てきがちな単語だし、似たような音も多そうです。不自然なウェイクワードは当然言いにくいでしょうけど、聞き間違いは少なくできます。

 ところでアグレッシブなAmazonは、ウェイクワードがなくても、ユーザーがAlexaに命令するつもりがなくても、Alexaがキーワード(「買った」とか「気に入った」とか)を聞き取るとその単語を含む会話の部分をサーバに送り、ユーザーの役に立てようとしているそうです(米The New York Timesより)。

 それはほんとに、もっと精度を上げてからにしてほしい。そして、実用化するとしたら、もちろんオプトインのオプションじゃないと大変なことになるかもしれません。

 ダニエルさんはシアトル在住でしたが、もし同じような事故が5月25日に「EU一般データ保護規則(GDPR)」が施行されたEU地域で起こったら、Amazonにとってかなりマズいことになりそうです。

Copyright © ITmedia, Inc. All Rights Reserved.

この記事が気に入ったら
ITmedia PC USER に「いいね!」しよう