「オススメ表示」をハッキング 気が付かれないように表示内容を操作 中国などのチームが発表:Innovative Tech
中国の南京大学、香港理工大学、香港城市大学の研究チームは、ユーザーに応じてお勧めするコンテンツを選ぶレコメンダーシステムにハッキング攻撃を仕掛ける手法を提案した研究報告を発表した。
Innovative Tech:
このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。
中国の南京大学、香港理工大学、香港城市大学の研究チームが発表した論文「Knowledge-enhanced Black-box Attacks for Recommendations」は、ユーザーに応じてお勧めするコンテンツを選ぶレコメンダーシステムにハッキング攻撃を仕掛ける手法を提案した研究報告だ。
顧客にパーソナライズされたサービスを提供することを目的としたレコメンダーシステムは、ソーシャルメディアや電子商取引を含む多くのアプリケーションドメインで広く使用されている。
レコメンダーシステムは、Recurrent Neural Networks(RNNs)やGraph Neural Networks(GNNs)などのDeep Neural Networks(DNNs)技術で強化されてきた。
今回はこのDNNベースのレコメンダーシステムに対して攻撃を行う方法を提案する。これまでにもフェイクユーザープロファイル(偽のユーザーがやりとりしたアイテムセット)を生成し、標的であるレコメンダーシステムに注入して悪意を持ってアイテムセットを攻撃する手法はあった。
しかし、攻撃対象のレコメンダーシステムのアーキテクチャ/パラメータや学習データに攻撃者が容易にアクセスできないブラックボックス環境下で、高品質のフェイクユーザープロファイルを生成することは、リソースが限られているため困難であった。
研究では、この問題を解決するために、フェイクユーザープロファイルの生成品質を向上させるための知識グラフ(ナレッジグラフ)を導入した攻撃フレームワーク「KGAttack」を提案する。
知識グラフとは、アイテム間の関係をつなげたネットワークのことで、検索エンジンやSNSなどで活用されている。今回はアイテムの属性情報(知識グラフ)を活用することで、フェイクユーザープロファイル生成のための補助的な知識を提供し、フェイクユーザープロファイルの生成を強化する。
例えば、映画をお勧めするレコメンダーシステムを攻撃するとして、攻撃者は映画Aを宣伝したいとする。攻撃者は映画Aの属性情報(俳優、ジャンル、プロデューサーなど)を、既存の映画Bの公開されている属性情報との間に密接な関係を設定する。相関を構築したフェイクユーザープロファイルをレコメンダーシステムに注入する。
これにより、既存の映画Bに興味ある一般ユーザーに対して映画Aを推奨する可能性が最も高くなる。レコメンダーシステムはフェイクユーザープロファイルに従って、映画Aを多くのユーザーの推薦リストに表示させることになる。
この攻撃手法を評価するため、映画レコメンド用データセット「MovieLens1M」、ユーザーと本との関連を記録している「Book-Crossing」、音楽配信データセット「Last.FM」の3つのデータセットを用いた広範な実験を行った。その結果、提案する攻撃手法がブラックボックス設定下で有効であることを実証した。
Source and Image Credits: Jingfan Chen, Wenqi Fan, Guanghui Zhu, Xiangyu Zhao, Chunfeng Yuan, Qing Li, and Yihua Huang. 2022. Knowledge-enhanced Black-box Attacks for Recommendations. In Proceedings of the 28th ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD ’22). Association for Computing Machinery, New York, NY, USA, 108-117. https://doi.org/10.1145/3534678.3539359
関連記事
- カメラに「存在しないもの」を見せるサイバー攻撃 離れた場所から電波を送信 成功率は99%
英オックスフォード大学の研究チームは、電波を使い、画像認識システムをだまして存在しないものを見せる手法を提案した研究報告を発表した。例えば真っ黒であるカメラフレームに文字を浮かび上がらせることなどができる。 - メガネの反射からWeb会議中の画面を盗み見る攻撃 閲覧中のサイトを特定する精度は94%以上
米University of Michiganと中国のZhejiang Universityによる研究チームは、Web会議に参加するメガネをかけたユーザーのレンズの反射によって、画面上の機密情報を不注意に伝えてしまうことを明らかにした研究報告を発表した。 - ネットに接続していないPCをハッキング 超音波で機密データを盗む攻撃 イスラエルの研究者が発表
イスラエルにあるBen-Gurion University of the Negevの研究者は、インターネットに接続されていない「エアギャップ・ネットワーク」内のコンピュータから機密データを盗む攻撃を説明した研究報告を発表した。 - 尾行を検知するラズパイ自作装置 周囲のスマホをスキャン、20分間検出され続けると警告
情報セキュリティの会社Argelius Labsを創設したMatt Edmondson氏は、尾行されているかを検知できる安価で持ち運びが可能な手作りデバイスを開発した。周囲のスマートフォン(無線信号)をスキャンして同じものを見つけ続けると、アラートで警告してくれる。 - AIが生成した“偽音声”を見抜く技術 99%以上の精度で検出
米フロリダ大学の研究チームは、音声生成モデルで作成された合成音声を見抜く検出器を開発し検証した研究報告を発表した。音声から声の通り道「声道」を作成して、その声道から人の音声か偽物の音声かを識別する。精度は99%以上だという。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.