KDDI総研、データポイズニングされても正しく学習できる手法を開発　レコメンドシステムの信頼性向上に

公開 2019年10月08日 14時42分

更新 2024年04月02日 11時58分

[ITmedia]

印刷する Googleで優先するソースとして追加

　KDDI総合研究所は10月8日、外部からの不正操作を排除しながら、ユーザーのECサイト上での行動履歴から嗜好を正しく学習する機械学習の手法を開発したと発表した。

　例えばECサイト内で、「緑の商品を閲覧しているユーザーはオレンジもよく閲覧している」なら、次に緑を閲覧しに来たユーザーにはオレンジを推薦するのが本来正しい推薦システムだ。

データポイズニング攻撃の概要

　しかし攻撃者は意図的に、「緑を閲覧後に赤を閲覧する」という行動を取る。このような行動を大量に行うことで、推薦システムに「緑を閲覧するユーザーは赤もよく閲覧している」と誤認させ、誤った推薦を行わせる。推薦システムの学習データを汚染するため、このような攻撃は「データポイズニング」と呼ばれている。

　KDDI総研では、データポイズニングをする攻撃者が一般ユーザーとは統計的に異なる行動履歴の特徴を持つことに注目。攻撃者の特徴を持つデータを除去しながら学習を進めることで、正しい学習を実現したという。既存の対策技術では不正データの除去率は7割程度だったが、新開発の手法では「ほぼ全ての不正データを除去できる」（KDDI総研）としている。