「あの人に偽情報を見せたい」がSNSの“レコメンドAI”悪用で実現する可能性 F-Secureが検証

SNS上の行動履歴を基におすすめコンテンツを紹介する“レコメンドAI”を悪用することで、数百アカウントがあれば特定の人物に偽情報を見せられる可能性をF-Secureが指摘。

[荒岡瑛一郎，ITmedia]

　SNS上の行動履歴などを基に、利用者におすすめのコンテンツを紹介する“レコメンドAI”を悪用することで、特定の人物に偽情報を見せられる──セキュリティ事業を手掛けるフィンランドF-Secureの日本法人F-Secure Japanは6月25日、こんな可能性を指摘した。

　同社はTwitterのデータを学習した機械学習モデルを利用し、どれだけのリツイート数があればレコメンドAIが偽情報を特定のユーザーにおすすめするか検証。数百のアカウントがあれば、特定のユーザーに偽情報を表示できることが分かったという。

　例えば2019年12月の英国総選挙に関するツイートを使った実験では、偽情報が含まれる投稿を何アカウントがどれだけ拡散すれば、ターゲットとなるユーザーに“おすすめツイート”として見せられるか検証。

　その結果、ランダムに選んだ200アカウントが10件の投稿を1回ずつリツイートすれば、約50％の確率で上位3位以内のおすすめツイートとして偽情報を表示できることが分かった。500アカウントが10件の投稿をリツイートすれば80％以上、1000アカウントが10件の投稿をリツイートすれば90％以上になったという。

2019年12月の英国総選挙に関するツイートを使った実験結果

　実験の結果を踏まえ、F-SecureはTwitterなどさまざまなSNSで、こういった手法を活用したデマの拡散が行われている可能性があると注意喚起。「AIへの依存度が高まっていく中で、AIを悪用から守るために何をすべきかを理解する必要がある」（同社）とした。