AI悪用で巧妙化する性的恐喝　存在しないわいせつ画像をでっち上げ　米国では自殺者も

公開 2023年06月15日 08時01分

[ITmedia]

印刷する連載新着通知を受け取る

　大学進学を楽しみにしていた17歳の男子高校生は、米オハイオ州の自宅で2022年11月に自らの命を絶った。同年7月には、やはり17歳の男子高校生がサウスカロライナ州の自宅で自分を撃って自殺した。2人とも、わいせつ写真や動画を暴露すると脅して金銭などを要求する性的恐喝「セクストーション」の被害者だった。

　AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになった今、そうした恐喝の手口がますます悪質化している。SNSなどに掲載された無害な写真や動画を合成してディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行しているとして、米連邦捜査局（FBI）が注意を呼びかけた。

誰にも相談できず、脅迫が続く

　セクストーションの犯罪は、加害者がSNSなどで被害者に近づいて自分のわいせつ写真や動画を見せるよう仕向け、それを家族や友人にばらすと脅すのが常とう手段だった。

　報道によると、自殺した2人の男子高校生は、いずれもInstagramで若い女性（を装った相手）と連絡を取り合っていたことが判明している。被害者の1人であるジェームズ・ウッドさんの場合、女性がビデオチャットに誘って自分が脱ぐからジェームズさんも脱ぐようにと促していた。この映像からジェームズさんの裸の画像がキャプチャーされ、その画像を使った脅迫で繰り返し金銭を要求され続けた。

セクストーションについて注意喚起するWebサイトから引用

　裸の写真は一部の友人にも送られていた。ジェームズさんは誰にも相談できないまま、「両親には嫌われる。大学にも行けず、就職もできない」などと脅す大量のメッセージに追い詰められた。

　FBIは1月時点で、未成年のセクストーションに関する過去1年間に寄せられた報告は7000件を超え、被害者は少年を中心に少なくとも3000人に上ると伝えていた。自殺した被害者は十数人に上った。

AIの進化で、悪用のリスクも増加

　AIの進化や、ディープフェイク動画を作成できるツールの普及で、こうした脅迫コンテンツの品質は一気に向上している。FBIは6月、自分の写真や動画が勝手に合成されてわいせつ写真・動画に仕立てられたといった被害報告が増えていると注意喚起している。

　FBIによると、加害者は個人のSNSやWebサイトなどに掲載された写真や動画を利用して、あたかも本物のように見えるわいせつ画像をでっち上げいるという。その後、被害者に対する嫌がらせや脅迫の目的でSNSやフォーラム、ポルノサイトなどに掲載している。

　知らないうちにコピーされて加工された自分の画像が出回っていることを、他人から指摘されて初めて知ったという人もいる。加害者が改ざんした写真や動画を被害者に直接送りつけて脅し、金銭や本物のヌード写真を送るよう要求するケースもある。

日本でも女性声優の存在しない水着画像をAIででっち上げた例を確認している

FBI「ネットへの画像投稿は慎重に」

　FBIは「一見無害に見える画像や動画でも、ネットに掲載したり共有したりすれば、自分が知らないうちに攻撃者によってキャプチャーされ、改ざんされて犯罪行為に利用されかねない。コンテンツ制作技術の向上は、攻撃者が被害者に狙いを定める新たな機会をもたらした」と指摘する。

　いったんネットに出回ったコンテンツの拡散を食い止めたり、抹消したりすることは極めて難しく、被害者が繰り返し脅迫され続けることもある。このような背景も踏まえ、FBIは個人の写真や動画、身元を特定できる情報などをSNSやデートアプリになど掲載したり、ダイレクトメッセージで送信したりすることには慎重になるよう促した。

　さらに、SNSアカウントはプライバシー設定を確認し、プロフィールや友達リストを非公開にするとともに、自分の写真や動画といった個人情報の公開を制限するようアドバイス。知らない相手からの友達リクエストを受け入れたり、連絡を取ったり、ビデオ通話を行ったり、画像を送ったりすることも慎むべきだとした。

　その上で「知らない相手から金銭などを要求されても従ってはいけない」と強調。「要求に応じたとしても、自分が映った画像の共有を止められるという保証はない」と指摘している。

　たとえ知っている相手でも、普段と違う行動パターンには注意が必要だという。攻撃者が他人のSNSアカウントを乗っ取って、友達だと思わせて信用させ、コンテンツを悪用することもあり得る。

　セクストーションの被害に遭って自殺した高校生の両親は、未成年をこうした犯罪から守るための法律の制定や、講演を通じた啓発活動などを続けている。結果、活動を通じて別の複数の生徒も被害に遭っていたことが発覚し、警察やFBIが捜査に乗り出した。しかしジェームズさんの事件では、加害者は米国外にいると思われ、検挙には至っていない。

この連載新着通知をメールで受け取る

印刷する