「お父さん、助けて」──家族の声をAIで模倣、巧妙化する「緊急事態詐欺」の手口 タイ首相も被害に

[鈴木聖子，ITmedia]

　子供や孫を装って家族に電話で助けを求め、言葉巧みに現金をだまし取ろうとする特殊詐欺。世界中でこうした手口が横行する中で、家族や著名人の声をAIで模倣するケースが増えている。AIを使えば詐欺グループがますます相手をだましやすくなる一方で、被害者がうそを見抜くのは一層難しくなる。

　狙われるのは一般人ばかりではない。タイのペートンタン・シナワット首相は1月、近隣国の首脳の声で金を要求する詐欺電話がかかってきたことを明らかにした。声の主はメッセージングアプリを通じ「東南アジア諸国の中でまだ寄付していないのはあなたの国だけだ」というボイスメッセージを残していたという。何者かがAIを使って首脳の声を捏造したと思われる。

タイのペートンタン・シナワット首相（Facebookアカウントから引用）

　「私でさえもだまされかけた」というペートンタン首相だが、指定された銀行口座番号がこの国のものではなかったことを確認して詐欺を見破り、AIを使った詐欺の手口に改めて注意を呼び掛けた。

息子の声で「助けて」

　米国では連邦捜査局（FBI）や連邦取引委員会（FTC）が繰り返し「家族の緊急事態詐欺」に注意を呼び掛けている。議会で証言して生々しい体験を語った被害者もいる。

　「お父さん、助けて」──息子の声で電話がかかってきたのは、弁護士のギャリー・シルドホーンさんが仕事に向かう途中だった。シルドホーンさんは2023年11月に開かれた米議会の公聴会で、このときの様子を証言した。

弁護士のギャリー・シルドホーンさん

　「息子は泣いていた。『お父さん、事故を起こした。妊婦が運転している車に衝突して自分は鼻を骨折した。今は逮捕されて刑務所にいる。弁護士に電話して。ここから出して。助けて』」

　このときの状況について、シルドホーンさんは「私は父親で、弁護士だ。息子が窮地に陥って、妊婦がけがをして、息子が刑務所に入れられた。自分はすぐ行動しなければと思った」と振り返る。

　その後、間髪を置かずに弁護士を名乗る相手から電話が入り、裁判所に電話するよう指示を受け、保釈金9000ドルを支払う必要があると告げられた。弁護士は、自分のビットコイン口座に送金するよう指示してきた。

　ここで少し考える余裕ができたシルドホーンさんは、息子の妻に電話して事情を知らせた。間もなくFaceTimeで電話がかかってきた。本物の息子だった。「僕は大丈夫、鼻は何ともない。だまされてるんだよ！」

　シルドホーンさんは「車の中で座り込んだ。体が震えていた。ショックと怒りと安堵の気持ちに襲われた」と話す。地元警察やFBIに通報したが、金銭被害に遭わなかったという理由で捜査はしてくれなかった。そこで新聞などのメディアを通じて自分の体験を告白したところ、同じ名前の弁護士を名乗る相手に金をだまし取られたという電話が、全米から20〜25件もかかってきたという。

　「暗号通貨やAIは、詐欺グループがリスクを負うことなく、われわれ全員をだます手段を与えた」とシルドホーンさんは訴える。「もしも誰かに損害を与えられたら、司法制度や法執行機関を通じた救済策がある。だがこのケースに救済策はない。その根本的な土台が崩れている」

偽音声を見抜くのは難しい　「SNSの投稿、可能な限り非公開に」

　人の声は、例えばSNSに投稿された動画などの音源を手に入れることさえできれば、AI音声クローニングツールを使って簡単に模倣できる。たった3秒のオーディオクリップから特定の人物の声を複製して、その声に自分たちの用意したせりふを言わせ、感情を込めたり、話し方を変えたりすることさえ可能という。

　しかも、電話に出た家族の声も詐欺グループに録音される恐れがあり、悪用される危険はさらに増す。

　「AIで生成したコンテンツを見抜くことは難しい」とFBIは言い、音声については「話し方や言葉の選び方に耳を傾けて、本物とAI生成の音声クローンとの違いを見極めてほしい」とアドバイスする。

　AIは投資詐欺やロマンス詐欺なども含め、あらゆるだましの手口に使われる。画像や動画の場合、手足のゆがみ、歯や目の不自然さ、不鮮明または不規則な顔、眼鏡やジュエリーといったアクセサリーの不自然さ、不正確な影、タイムラグ、声の一致、非現実的な動作といった微妙な不完全さで偽造を見抜けることもある。

　AIを使った詐欺に悪用されないよう、そもそも自分や家族の写真や映像の投稿は可能な限り制限して、SNSのアカウントは非公開とし、フォロワーは自分の知っている相手に限る。FBIはこれらの対策を普段から講じるよう呼びかけている。