詐欺師 vs. 生成AI──“だまされたふりしたAI”で犯罪情報を聞き出せるか？ 米国チームが検証：Innovative Tech（AI+）

[山下裕毅，ITmedia]

Innovative Tech（AI+）：

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。

X： ＠shiropen2

　米国のセキュリティ企業Cyberaなどに所属する研究者らが発表した論文「Send to which account？ Evaluation of an LLM-based Scambaiting System」は、AIが詐欺メールにだまされたふりをして詐欺師と会話を続け、犯罪に使われる銀行口座の情報を聞き出せるかを実験した研究報告だ。

　実験の結果、約5カ月間の実験で2600人以上の詐欺師と接触し、対話に成功した約3分の1の詐欺師から口座情報の入手に成功したという。

AIを使って詐欺メールにだまされたふりをして詐欺師と自動的にやりとりするシステムを開発

　生成AIツールの普及により、詐欺師が多言語で説得力のあるフィッシングメッセージを大量に作成することが容易になった。そのため従来の検知・ブロック型の防御策では対応が困難になってきている。このような状況下で、詐欺師の収益化インフラ、特にマネーミュール口座や暗号通貨ウォレットを特定し凍結することが詐欺対策の戦略的アプローチとして注目を集めている。

　研究チームが開発したシステムは、詐欺師からのメールに対して大規模言語モデル（LLM）のChatGPTが自動的に返信を生成し、被害者を装って会話を継続する仕組みだ。システムは2つの運用モードで稼働。AIだけの完全自動モードで120日間運用し、人間のオペレーターがAI生成メッセージを確認・編集できる人間介入モードで34日間運用した。

LLMを活用したシステムが詐欺師とのメールのやりとりを通じて犯罪情報を収集する仕組み

　実証実験の結果、2638件の詐欺師とのやりとりのうち、48.7％が実際の対話に発展し、全体で1万8797通のメッセージが交換された。発展した対話のうち31.74％で詐欺師から銀行口座情報などの機密情報を引き出すことができ、情報開示までの平均時間は7.4日だった。人間介入モードでは完全自動モードと比較して情報開示までの時間が短縮され、より効率的な情報収集が可能になった。

　対話に発展した場合、詐欺師の応答時間の中央値が2.37時間だったのに対し、失敗した対話では6.90時間と大幅に遅く、応答の速さが情報開示の可能性を示す重要な指標となることが分かった。また、対話開始から28日以上応答がない場合、95％の確率でその対話は終了したと判断できることも明らかになった。

Source and Image Credits: Siadati, H., Jafarian, H., & Jafarikhah, S.（2025）. Send to which account？ Evaluation of an LLM-based Scambaiting System.