Google、AIによる予約電話代行への批判に「AIだと名乗らせる」と説明

　米GoogleがGoogle I/O 2018で披露した、AIアシスタント「Googleアシスタント」がユーザーに代わって電話し、先方の人間と会話して予約などを実行する機能が物議を醸している。

　この機能は、同社の新しいAIシステム「Google Duplex」によるもので、まだ開発段階だとして紹介された。基調講演では、美容院の予約とレストランの予約の2つのデモが披露されたが、いずれも人間と区別のつかない自然な会話になっており、会場からは驚きの声が上がった。

　これについて、ノースカロライナ大学准教授でIT企業に批判的なツイートで知られるゼイネプ・ツーフェクシ氏は、Googleアシスタントは人間のふりをして電話をしただけでなく、相手をだますために「ふーむ」とか「ああ」とまで言ったとして「シリコンバレーの倫理は失われ、制御不能だ」とツイートした。

　他にも、相手にAIだとわからないように会話するbotを開発すれば、詐欺などに悪用できるという批判もある。

　これを受けてGoogleはThe Vergeなど複数のメディアに対し、「Google Duplexについての論争の価値をわれわれは理解している。常に説明しているように、テクノロジーの透明性は重要だと認識している。この機能は開示するよう設計されており、AIだと正しく特定できるようになる。I/Oで見せたのは初期段階のデモであり、フィードバックを受けて改善していく」と語った。

　同社は批判が高まる前に公開した公式ブログでも、透明性を重視していると語り、会話を（コンピュータ的ではなく）人間に近づける目的は電話の相手に快適な体験を提供するためであり、相手は自分がAIと話していることについては気づくようにすると説明していた。

　電話予約の様子の一部を、以下のYouTubeの3分25秒目くらいから聴くことができる。

この記事の著者

関連記事

• 

  「Googleアシスタント」の6種類の声や会話モードなどの新機能　予約電話代行も

• 

  Google I/O 2018基調講演まとめ　AIのある快適な暮らし

• 

  Google、1人の声を聞き分ける「カクテルパーティー効果」ディープラーニングモデル

• 

  「AIが仕事を奪う」への疑問　いま、“本当に怖がるべきこと”は

• 

  Googleアシスタントがマルチリンガルに