“テイラー・スウィフト偽AI画像”の衝撃 一般人にも広がるディープフェイクの脅威 対策は?:この頃、セキュリティ界隈で
テイラー・スウィフトの写真をAIツールで合成したわいせつ画像がXで拡散した事件は、幅広い方面に衝撃を与えた。だがこうした問題の深刻な影響を受けるのは、SNSに気軽に自分の写真を掲載する一般人の方かもしれない。対策はあるのだろうか?
世界中で熱狂を巻き起こしている歌手のテイラー・スウィフト。その大スターの写真をAIツールで合成したわいせつ画像がXで拡散した事件は、ファンだけでなく幅広い方面に衝撃を与えた。だがこうした問題の深刻な影響を受けるのは、SNSに気軽に自分の写真を掲載している普通のユーザーの方かもしれない。
報道によると、問題の画像は1月下旬にXに投稿され、瞬く間に拡散した。投稿したユーザーはポリシー違反でアカウントを停止されたが、約17時間後に画像が削除されるまでの間に4500万回以上閲覧され、2万4000回もリポストされたという。
この間、強力な反撃に出たのは世界中のスウィフトのファンだった。わいせつ画像に関連してXのトレンドに浮上したハッシュタグ「Taylor Swift AI」を圧倒するために、ファンが結集して「PROTECT TAYLOR SWIFT」(テイラー・スウィフトを守れ)のハッシュタグを集中的にポスト。スウィフトを守る側の投稿でXをあふれかえらせ、問題の画像を抑え込むことに成功した。
騒ぎが大きくなったことを受けてXも「Taylor Swift」の名を一時的に検索できなくる異例の措置を講じたことを明らかにした。さらにXの安全性を管理する公式アカウント「Safety」(@Safety)は「同意のないヌード画像の投稿は固く禁じられており、そうしたコンテンツは一切容認しない。画像が見つかった場合ば全て削除し、投稿したアカウントに対する適切な措置を講じる」とポストしている。
問題のAI画像は「Microsoft Designer」を悪用か
他人の写真を勝手に合成して本物と見分けがつかない動画や画像を捏造(ねつぞう)するディープフェイクの被害は今に始まったことではない。だが手軽に使える無料AIツールが一気に普及したことで、誰でも簡単に偽動画や画像を作成できるようになった。
スウィフトのように絶大な影響力を持つ有名人が標的になったことは、そうしたAI生成画像の問題が脚光を浴びるきっかけにもなった。米Microsoftのサティア・ナデラCEOやホワイトハウスの報道官も憤りを示しており、今後当局が規制に乗り出したり、SNSやIT大手が対策を強化する可能性もある。
スウィフトのわいせつ画像は、4chanやTelegramでユーザーが捏造()した有名人の画像を競って投稿しているチャンネルが出どころだったとされる。作成に利用したのはMicrosoftの画像生成AI「Microsoft Designer」だったと伝えられている。
Microsoft Designerは、 言葉で指示を出して画像を生成できるChatGPTのAIツール「DALL・E-3」を搭載している。同ツールはヌード写真や有名人の写真の合成を禁じているが、ユーザーは抜け穴を見つけて禁止をかいくぐっていたことも分かった。
Microsoftは指摘を受けてそうした抜け穴をふさぎ、悪用防止対策を講じると表明。有名人の画像の合成や、アダルト画像や同意のないわいせつ画像を禁止することも明記した。
ただ、Telegramや4chanではそうした対策をかわす手口について活発なやりとりが続いているといい、悪用する側と阻止する側のいたちごっこが続くのは必至だ。
一般人もディープフェイクの被害に 対策は?
有名人に限らず、顔写真が無断で使われ、わいせつ動画や写真が捏造される被害は深刻化している。スウィフトの場合、ファンが結集して対抗し、Xにも行動を起こさせたが、ほとんどの被害者にとって、そうした力強い味方はいない。
実際に、米国の高校の女子生徒が男子に自分の写真を無断で加工されたと訴えたり、Twitchの男性ストリーマーが金を払って人気女性ストリーマーのディープフェイク動画を作成させていたことがバレて謝罪したりといった事例は後を絶たない。
自分がいつ被害に遭ってもおかしくない現状で身を守るためにはどうすればいいのか。CNNは以下のような専門家のアドバイスを紹介している。
- 自分のプロフィールは非公開とし、写真を共有する相手は信頼できる相手に限定する
- 親しい相手から「リベンジポルノ」の被害に遭う場合もある。最大の安全策は共有する内容を制限すること
- わいせつ画像を作成するためにはさまざまな角度からの顔写真が必要とされるため、写真は少ないほどいい。ただし今後AIシステムが進化すれば、たった1枚の写真からもディープフェイクの合成が可能になるかもしれない
- アカウントに不正侵入されて写真や動画にアクセスされる被害を防ぐため、安易なパスワードは使用しない
関連記事
- Xでのテイラー・スウィフト偽AI画像拡散について米連邦政府が懸念表明 Microsoftは「Designer」のフィルターを強化
テイラー・スウィフトの偽ヌード画像がXで拡散されたことについて、米連邦政府が懸念を表明した。Xは画像を削除し、「Taylor Swift」の検索結果を表示させないようにした。画像生成には「Microsoft Designer」が使われたと報じられている。 - NHKロゴ使ったフェイク投稿、Xで拡散 能登半島地震や原発巡る内容
1月1日に発生した石川県能登半島を震源とする地震(令和6年能登半島地震)を巡り、NHKをかたる偽の情報がX(旧Twitter)で出回っているとして、NHKは4日、ニュースサイト「NHK NEWS WEB」で注意喚起した。 - 人には正しく聞こえるが“AIにはゆがんで聞こえる声”に変えるツール 合成音声に使われないために保護
米セントルイス・ワシントン大学に所属する研究者らは、自分の声が音声合成されないための防御ツールを提案した研究報告を発表した。 - TBS「サンデーモーニング」がAI画像巡り誤報 生成AI製“偽画像”を紹介→実は約10年前から存在
TBSは、テレビ番組「サンデーモーニング」で放送した生成AIに関する映像に誤りがあったとして謝罪した。 - 2024年に流行るサイバー攻撃は? 注目はやはりAI それ以上に押さえておくべき基本とは
2023年は「ChatGPT」のような生成AIが急激に台頭し、サイバー攻撃を仕掛ける側も防ぐ側も、AIの活用に注目した年だった。2024年はどのような手口が増えると予想されるか。サイバーセキュリティ各社がその予測をまとめている。
Copyright © ITmedia, Inc. All Rights Reserved.