ニュース
生成AIで詐欺電話を再現、高齢者の訓練に 富士通など、被害防止へ新技術
富士通は、電話による特殊詐欺の手口を生成AIで再現することで、詐欺対策の訓練ができる「特殊詐欺防止訓練AIツール」を開発した。
富士通は11月30日、電話による特殊詐欺の手口を生成AIで再現する「AIトレーナー」と会話することで、リアリティのある会話形式で詐欺対策の訓練ができる「特殊詐欺防止訓練AIツール」を開発したと発表した。生成AI(LLM)を活用することで、新たな最新の詐欺パターンを反映しながら訓練できることが特徴だ。
東洋大学・兵庫県尼崎市との共同研究の成果。12月1日まで尼崎市の高齢者を対象に実証実験を行って本訓練AIツールの有効性を検証する。
AIトレーナーは、生成AIを使って特殊詐欺の手口を体験するツール。AIが特殊詐欺のシナリオに沿ってふるまい、電話相手の応答内容に応じて詐欺に誘導する。
従来の同様なツールでは、特殊詐欺の手口ごとに詐欺被害の詳細データを分析し、都度プロンプトを作成する必要があったが、新技術はプロンプトを自動生成できるのが特徴だ。
詐欺手口の汎用的なシナリオを分析した上で、最新の詐欺被害報告から「医療費」や「還付」といった特徴的なキーワードを収集。断片的な情報からでも適切にプロンプトを自動生成する仕組みだ。LLMと連携させることで、最新の特殊詐欺の手口を模倣できるようにした。
また、訓練中に非接触でセンシングした高齢者の生理反応から、緊張やストレスといった心理状態を推定し、どの会話で緊張が高まったかや、総合的に算出されただまされやすさを判定して、本人にフィードバックする。
関連記事
- AIブームで声で人をだます犯罪も増加か 闇サイトでは音声クローンサービス「VCaaS」が台頭
AIを使って音声を合成する音声クローン技術が悪用される危険が強まっている。闇サイトでは、そうした悪用に手を貸す「VCaaS」と呼ばれるサービスも台頭しているという。 - 「本人の声とそっくりな合成音声」の悪用に対して法的権利はあるか? NTT社会情報研究所が調査
NTT社会情報研究所と慶應義塾大学の研究者らは、音声合成技術によって生成された、本人の声と酷似した合成音声が利用される場面において主張しうる権利について、著作権、パブリシティ権、個人情報の観点からの解釈を探求した研究報告を発表した。 - AIで振り込め詐欺防止 「ATM前の通話」検知 ゆうちょ銀、警視庁と実験
AIを使った振り込め詐欺防止システムをゆうちょ銀が実験。防犯カメラの画像をAIで解析する。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.