「あの人に偽情報を見せたい」がSNSの“レコメンドAI”悪用で実現する可能性　F-Secureが検証

　SNS上の行動履歴などを基に、利用者におすすめのコンテンツを紹介する“レコメンドAI”を悪用することで、特定の人物に偽情報を見せられる──セキュリティ事業を手掛けるフィンランドF-Secureの日本法人F-Secure Japanは6月25日、こんな可能性を指摘した。

　同社はTwitterのデータを学習した機械学習モデルを利用し、どれだけのリツイート数があればレコメンドAIが偽情報を特定のユーザーにおすすめするか検証。数百のアカウントがあれば、特定のユーザーに偽情報を表示できることが分かったという。

　例えば2019年12月の英国総選挙に関するツイートを使った実験では、偽情報が含まれる投稿を何アカウントがどれだけ拡散すれば、ターゲットとなるユーザーに“おすすめツイート”として見せられるか検証。

　その結果、ランダムに選んだ200アカウントが10件の投稿を1回ずつリツイートすれば、約50％の確率で上位3位以内のおすすめツイートとして偽情報を表示できることが分かった。500アカウントが10件の投稿をリツイートすれば80％以上、1000アカウントが10件の投稿をリツイートすれば90％以上になったという。

　実験の結果を踏まえ、F-SecureはTwitterなどさまざまなSNSで、こういった手法を活用したデマの拡散が行われている可能性があると注意喚起。「AIへの依存度が高まっていく中で、AIを悪用から守るために何をすべきかを理解する必要がある」（同社）とした。

この記事の著者

関連記事

• 

  私たちはネットの「デマ」や「フェイクニュース」とどう付き合うべきか

• 

  Twitterのリツイート制限、きょうから　米大統領選デマ防止で「引用RT」を標準に

• 

  新型コロナウイルスの影響、ネットでも　便乗ウイルス出現、感染力増す偽情報

• 

  「5Gが新型コロナ拡散」陰謀論　5G基地局の襲撃が世界に飛び火し、デマ投稿が止まらない理由