この頃、セキュリティ界隈で

AIブームで声で人をだます犯罪も増加か　闇サイトでは音声クローンサービス「VCaaS」が台頭

公開 2023年05月29日 09時01分

[ITmedia]

印刷する連載新着通知を受け取る

　AIを使って音声を合成する音声クローン技術が、人をだましたり偽情報を拡散させたりする目的で悪用される危険が強まっている。闇サイトでは、そうした悪用に手を貸すサービスも台頭しているという。

　音声クローンを利用すれば本物そっくりの音声を合成することができ、ディープフェイク動画などと組み合わせて偽情報をもっともらしく見せかけられる。過去にはアメリカのバイデン大統領や女優エマ・ワトソンといった有名人の偽音声が出回ったこともあった。

　そうしたツールを使って合成した音声は質が高く、本物か偽物かの区別がつきにくい。有名人の声で差別発言や暴力的な発言を拡散すれば、情報操作や情報かく乱に結び付くこともある。

　サイバーセキュリティ企業の米Recorded Futureは、闇サイトでの会話を分析した結果、悪用目的の音声クローン利用に言及する内容が増えていると発表した。簡単に音声を合成できるAIプラットフォームの普及に伴い、それほどのスキルがなくてもサイバー犯罪に参入するのが容易になったという。

米Recorded Futureが公開した調査レポート

　特に注目度が高いのは、文章を音声に変換できる米ElevenLabsの音声クローンプラットフォームだ。同製品の有料サービスを利用して、犯罪集団が有名人の音声をアップロードしたり、なりすましなどの犯罪に利用したりしていた形跡もあった。

闇サイトでは音声クローンサービス「VCaaS」が台頭

　Recorded Futureによると、闇サイトでは犯罪集団が独自の音声クローンツールを開発して提供する「サービスとしての音声クローン」（Voice Cloning-as-a-Service＝VCaaS）も台頭。音声クローンを使った経営者のなりすましや、コールバック詐欺や音声フィッシング詐欺などに利用する手口も話題になっている。

　実際、サイバーセキュリティ企業の米McAfeeが日本など7カ国で23年に実施した調査によれば「自分がAI音声詐欺に遭ったことがある」という回答は10％、「知人が詐欺に遭った」という回答は15％に上り、そのうち77％が実際に金銭被害に遭っていた。