あの詐欺広告、なぜ消えない？ SNSにまん延するゆがんだビジネスの真実

有名なビジネスパーソンやタレントが投資を推奨する――SNSでこのような怪しいディープフェイク動画を見たことがある人もいるはずだ。これはSNS型投資詐欺というもので被害額が1274億円と過去最悪を更新している。これを解消する術はあるか。

[田渕聖人，ITmedia]

　2026年3月19日、「ストップ詐欺広告」プロジェクト発表会が東京都内で開催された。登壇した「デジタル民主主義 2030」（以下、DD2030）代表の鈴木健氏は、冒頭から強い危機感をあらわにした。

　SNSや動画サイトなどで有名人のディープフェイクを使った詐欺広告を見たことがある人も多いだろう。警察庁の発表によれば、2025年におけるSNS型投資詐欺の認知件数は9538件、前年比で48.7％の増加だ。被害額は1274.7億円に達し、前年比46.3％増という過去最悪の数字を記録した。

SNS型投資詐欺の被害額は過去最高に（出典：警察庁「令和7年における特殊詐欺及びSNS型投資・ロマンス詐欺の認知・検挙状況等について（暫定値）」）

　1人当たりの被害額に換算すると約1300万円に上り、中には退職金を含む全財産を失い「地獄のような時間を味わった」と吐露する被害者家族もいるという。鈴木氏は、この深刻な被害状況を「社会の分断」というより大きな文脈の中で捉えている。

　鈴木氏は、過去10年間にわたり米国の大統領選挙を現地で視察し、SNSがもたらしたエコーチェンバー現象やフェイクニュースのまん延が、政治的暴力へと変質していく過程を目撃してきた。同氏は「日本でも分断のカウントダウンが始まっている」と警鐘を鳴らし、オンライン詐欺広告を、民主主義を蝕むウイルスの一種であると定義する。

　同プロジェクトには、台湾の元デジタル発展部長であるオードリー・タン氏や、慶應義塾大学教授の駒村圭吾氏らが賛同している。駒村教授は、現代の政治状況を「あらゆる勢力がファンダム化、あるいは推し活化している」と指摘し、自陣と敵の分断を深めることで勢力を拡大する手法が、生成AIによる偽情報の拡散と結びついている現状を危惧した。

　本稿では、DD2030が慶應義塾大学内に設立された「プルラリティ・なめらかな社会研究センター」（PLANTS）と連携し、どのように詐欺広告の根絶を目指すのかをまとめた。

プラットフォーマーはやる気なし？　なぜSNS型投資詐欺はなくならないのか

　これほど大きな被害が出ているにもかかわらず、なぜ有効な対策が打てないのか。鈴木氏は構造的要因として、グローバルプラットフォーム企業の収益構造と、国内における行政の「縦割り」による制度の隙間を指摘する。

　1つ目の要因は、巨大プラットフォームのビジネスモデルそのものに内在するジレンマだ。ロイター通信が報じた内部文書の推計によれば、大手プラットフォーム企業の2024年売上高のうち、約10％に当たる約160億ドル（約2兆5000億円）が詐欺や禁止商品の広告によるものだったとされる。広告収益に依存する構造そのものが、プラットフォーム側にとって抜本的な対策へのインセンティブを削ぐ要因となっている可能性は否定できない。

　2つ目は加害者側のエコシステムが高度に組織化・巨大化している点だ。東南アジアの国境地帯には「KKパーク」のような1万人規模の詐欺拠点が存在し、現地の権力者と利益共同体を形成している実態がある。こうした犯罪集団から投じられる膨大な広告費が、世界的なプラットフォームへと流れ込み、なりすまし広告として私たちの眼前に現れているという。

オンライン広告詐欺の全体像（出典：DD2030の記者会見資料）

　3つ目は日本の法制度の規制の限界だ。オンライン詐欺広告は複数の省庁にまたがる複合的な問題だが、現状の法体系ではどこも決定的な規制権限を持てていない。消費者庁が所管する景品表示法は、実態のないサービスの広告を規制対象外としており、総務省もモニタリングは実行するがプラットフォームへの強制的な規制権限は有していない。警察庁や金融庁もそれぞれの領域で活動しているが、広告という「入り口」を止める決定打に欠ける状態が続いている。結果として、金融機関での「出口対策（送金阻止）」に比べ、SNS上の広告という「入り口対策」が最も脆弱（ぜいじゃく）なまま放置されているのが実情だ。

日本の法制度の規制の限界が詐欺の根絶を困難にしている（出典：DD2030の記者会見資料）

詐欺被害額を30分の1に激減　台湾の事例に学ぶ“市民参加型の取り組み”

　この現状を打破するために投入されたのが、市民参加型の詐欺通報システム「Anti Fraud」だ。同システムは、台湾で劇的な成果を上げた「Fraud Buster」を参考に、日本の法制度や社会状況に合わせて開発されている。

　システムの核となるのは、市民が不審な広告をその場で通報し、どのような詐欺がどのプラットフォームでまん延しているかを社会全体で「見える化」する機能だ。鈴木氏によると、先行リリースした1週間で100件以上の市民通報が集まったという。

先行リリース1週間で100件以上の市民通報が集まった（出典：DD2030の記者会見資料）

　Anti Fraudは主な機能として、証拠画像付きの通報システムや、通報状況を可視化するタイムライン、さらに統計ダッシュボードを備えている。これにより、従来は個々人のスマートフォンの中で完結していた被害の予兆を、共有可能なデータへと変換できる。

　さらに今後の開発ロードマップにはAIの全面的な導入が掲げられている。日々寄せられる膨大な通報を人間が手作業で精査し続けることは現実的ではないため、画像解析AIによって「なりすまし」「投資詐欺」「フィッシング」といったカテゴリーの自動ラベリングや、一次スクリーニングをする機能を実装する計画だ。さらには、AIが自らプラットフォームを巡回して詐欺の疑いがある広告を自動検知し、通報するシステムの構築も視野に入れている。

　特筆すべきは先行する台湾の成功事例だ。台湾では2024年に無作為抽出された市民による「熟議」を経て、プラットフォーム事業者への規制強化に85％以上が合意した。これを受けて台湾政府は、広告主の本人確認の義務化や、政府の通報から24時間以内に削除されない場合の罰則（最大4.6億円）、さらにはISPを通じたトラフィック管理など、極めて強力な規制を導入した。その結果、詐欺被害額を30分の1に激減させるという大きな成果を上げている。

先行している台湾の事例では詐欺被害額を30分の1に激減した（出典：DD2030の記者会見資料）

　DD2030はこの成功モデルを日本で再現することを目指している。慶應義塾大学PLANTSとの連携により、通報データを集めるだけでなく、そのデータを基に市民が議論し、納得感のある規制案をボトムアップで形成する「プロジェクト・コア・ループ」を回す方針だ。

プラットフォーマーの「自浄作用」を待つ段階は終わった

　この仕組みがうまく回れば、SNS型投資詐欺の根絶に大きく貢献するが、運用する上では懸念もある。最も大きな懸念が詐欺の認定プロセスだ。「ある広告が本当に詐欺かどうか」は判断が難しくグレーゾーンも当然発生する。仕組みの穴を突けば特定の広告を排除することも可能かもしれない。

　そこでAnti Fraudには誤判定による風評被害を防ぐための異議申し立て機能も実装されている。判定の精度を高めるため、有名人の公式データセットとの照合や、クリック先のランディングページまで深掘りして解析する技術の確立を急いでいる。

　鈴木氏は「このシステムを10年や20年運営し続けることが目的ではない。培ったノウハウやソースコード、データを将来的に政府に提供し、行政システムの一部として組み込まれることで、法令化から施行までの期間を劇的に短縮することこそが真のゴールだ」と語り、あくまで社会実装のパイオニアとしての役割を強調した。

　今回の取材から浮き彫りになったのは、オンライン詐欺はもはや個人のリテラシー問題ではなく、プラットフォーマーが内包する「構造的な欠陥」であるという事実だ。1274億円という巨額の資金が、犯罪集団からプラットフォームの広告収益へと流れ、結果として社会の信頼基盤を破壊している。

　Anti Fraudの真価は、単なる通報ツールとしての便利さだけではない。行政が縦割りの弊害で動けず、プラットフォームが収益性の観点から消極的な中、市民が自らデータを持って「入り口」をふさぎ、熟議によって法規制の正当性を確保するという、デジタル時代の新しいガバナンスモデルの提示にある。

　プラットフォーム側の「善意の対策」が期待できない今、AIを社会を分断する道具から、社会を守るための盾へと転換させる必要がある。今回のシビックテックが、日本のサイバー空間に健全な自浄作用を取り戻すきっかけとなることを期待したい。