Google、AIによる予約電話代行への批判に「AIだと名乗らせる」と説明
GoogleがI/Oで披露したAIアシスタントによる電話応対デモが人間と区別がつかなすぎるという批判を受け、公開の際はAIだと分かるようにすると説明した。
米GoogleがGoogle I/O 2018で披露した、AIアシスタント「Googleアシスタント」がユーザーに代わって電話し、先方の人間と会話して予約などを実行する機能が物議を醸している。
この機能は、同社の新しいAIシステム「Google Duplex」によるもので、まだ開発段階だとして紹介された。基調講演では、美容院の予約とレストランの予約の2つのデモが披露されたが、いずれも人間と区別のつかない自然な会話になっており、会場からは驚きの声が上がった。
これについて、ノースカロライナ大学准教授でIT企業に批判的なツイートで知られるゼイネプ・ツーフェクシ氏は、Googleアシスタントは人間のふりをして電話をしただけでなく、相手をだますために「ふーむ」とか「ああ」とまで言ったとして「シリコンバレーの倫理は失われ、制御不能だ」とツイートした。
他にも、相手にAIだとわからないように会話するbotを開発すれば、詐欺などに悪用できるという批判もある。
これを受けてGoogleはThe Vergeなど複数のメディアに対し、「Google Duplexについての論争の価値をわれわれは理解している。常に説明しているように、テクノロジーの透明性は重要だと認識している。この機能は開示するよう設計されており、AIだと正しく特定できるようになる。I/Oで見せたのは初期段階のデモであり、フィードバックを受けて改善していく」と語った。
同社は批判が高まる前に公開した公式ブログでも、透明性を重視していると語り、会話を(コンピュータ的ではなく)人間に近づける目的は電話の相手に快適な体験を提供するためであり、相手は自分がAIと話していることについては気づくようにすると説明していた。
電話予約の様子の一部を、以下のYouTubeの3分25秒目くらいから聴くことができる。
関連記事
- 「Googleアシスタント」の6種類の声や会話モードなどの新機能 予約電話代行も
スマートスピーカーやスマートフォンに搭載するGoogleのAIアシスタント「Googleアシスタント」で、自然な会話や1度に投げられた複数の質問への正しい回答、ユーザーに代わって電話で予約を取る機能などが発表された。 - Google I/O 2018基調講演まとめ AIのある快適な暮らし
Googleの年次開発者会議「Google I/O 2018」の基調講演で発表されたことをまとめた。GoogleアシスタントやAndroid Pなど、AI中心のデモが多かった。 - Google、1人の声を聞き分ける「カクテルパーティー効果」ディープラーニングモデル
Googleが、騒音の中から1人の声を選択する人間の聴取能力を再現するディープラーニングモデルを発表した。同時に話す2人の声から1人ずつの声を切り分けでキャプションを付けるサンプル動画も公開した。 - 「AIが仕事を奪う」への疑問 いま、“本当に怖がるべきこと”は
「人工知能が原因で失業する」。しばしば、AIはこうした脅威論の文脈で語られることがある。AIは本当にそこまで怖いものなのだろうか。 - Googleアシスタントがマルチリンガルに
GoogleのAIアシスタント「Googleアシスタント」のサポート言語が年内に30以上になり、マルチリンガルになる。まずは英、仏、独のみ対応だが、将来的には日本語と英語で命令できるようになりそうだ。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.