もはや必須？ 企業の「AIを使いました」報告 米国では“明示なし”フェイク音声が物議に：事例で学ぶAIガバナンス（2/3 ページ）

[小林啓倫，ITmedia]

　現在のニューヨーク市長は、22年からエリック・アダムス氏が務めている。彼はブルックリン生まれのアフリカ系アメリカ人で、ニューヨーク市で警官として勤務後、ニューヨーク州上院議員を務めるなど政治家への転身を果たした。こうした経歴からも分かるように、彼は生粋の米国人だ。

エリック・アダムス市長のXアカウント

　しかし、アダムス市長から市民にかけた電話で、彼がスペイン語や中国語（北京語）、さらにはイディッシュ語（ヘブライ語の流れをくむ言語でユダヤ人が使う）に至るまで、さまざまな言葉を流ちょうに話すことが確認された。米国人は英語しか話せないというわけではないし、彼が多言語習得に必死になっていた可能性もあるが、今回彼が外国語を“話せる”ようになったのは、AIのおかげだった。

　ニューヨークタイムズ紙の報道によれば、この電話はいわゆる「ロボコール」で、マーケティングや選挙活動などで使われる自動通話システムによるもの。市長は電話の中で、市役所の求人に応募したり、各種のイベントに参加したりするよう市民を促していた。しかし、この電話はアダムス市長が実際に話したものではなく、AIによって音声を加工ししゃべらせたものだった。

　市長が使用したAIはどの企業が開発したものかは明らかになっていないが、市当局によれば、ロボコール全体の開発費用は約3万2000ドル（約450万円）だった。個人でも購入できるAI音声ツールが登場していることを考えると、この額はある程度の性能の音声加工AIを導入するのには十分だろう。

　企業が開発したAI音声の例には、米ElevenLabsが開発する「生成音声AI」（Generative Voice AI）がある。これは、20カ国語以上の言語に対応しており、話者の声を自在に変化させる。しかも生成される音声は極めて自然で、人間が話していると言われれば信じてしまうほどだ。

ElevenLabsによる多言語対応のデモ

　ロボコールの導入後、実際にアダムス市長は、街中で市民から呼び止められて「君が北京語を話すとは知らなったよ」と言われたというエピソードを紹介している。

明示のないAI利用は是か非か

　アダムス市長のこの行動に対して、さまざまな市民団体から批判の声が上がっている。「Surveillance Technology Oversight Project」（監視技術監視プロジェクト、S.T.O.P.）という団体のアルバート・フォックス・カーン事務局長は「確かにニューヨーカーが使う全ての母国語でアナウンスする必要はあるが、ディープフェイクの利用は不気味で、空虚なプロジェクトだ」とし「力を入れるべきはメッセージの質の高い翻訳であり、それを伝える人の側ではない」と述べている。

アルバート・フォックス・カーン事務局

　こうした懸念が生まれているのにはいくつかの理由があるが、その一つが、今回のプロジェクトがアダムス市長の再選に有利になるのではないかという点だ。