Twitter、スパム対策を説明 「問題ないアカウントを巻き込む可能性もあるが……」

Twitterが、サービス上で不正に情報を拡散したり世論を操作しようとする動きを阻止するための取り組みについて説明した。自動システムは偽陽性に陥りやすいので、凍結対象のアカウントには正当性を証明する機会を提供しているとしている。

[佐藤由紀子，ITmedia]

　米Twitterは9月28日（現地時間）、昨年の米大統領選へのロシアの介入について説明する公式ブログで、同社のルール違反行為対策についても説明した。

　Twitterでは、8月に漫画家やイラストレーターの間でアカウントが突然凍結されるなどの問題が発生しており、この問題については同社は「ルール違反行為を減らすために行っているTwitterの施策が、予期せぬ方向へ働いた」と説明した。

　同社が長文のブログで説明する対策や成果から、幾つかを紹介する。

　同社はスパム目的で作られたbotや悪質な投稿を検出するための機械学習採用のシステムを強化しており、自動検出システムは毎週320万件以上の不審なアカウントを“捕捉”（「catch」という言葉を使っており、後述のように即凍結というわけではないようだ）していると説明した。1年前より2倍以上の件数になっているという。

　自動生成アカウントの検出機能が向上したため、こうした不審アカウントのログイン時点あるいは最初のスパムツイート投稿段階で捕捉できるようになったとしている。

　機械学習を採用する自動スパムおよびbot検出ツールの強化により、不審なログインの阻止率は前年比で64％上がり、1日当たり45万件の不審なログインを捕捉している。

　悪意ある個人や団体からのツイートを阻止するシステムも開発しており、プロキシサーバなどを使ってつながりを隠そうとする既知の悪意あるユーザーからのツイートも阻止できるよう取り組んでいるという。

　単一の個人あるいは団体がスパム的なフォローをばらまく目的で大量のアカウントを作成するのを検知するシステムも強化し、例えば21日には570万以上のスパム的なフォローを停止した。

　こうしたスパムやbotを検出するための自動システムは偽陽性（陰性のものを誤って陽性と判断すること）になる危険を持っており、その危険性を可能な限り下げることを目標にしているという。

　「そのため、われわれはスパム検出に捕捉されたユーザーに対し、アカウント凍結前に正当性を証明する機会を提供している」という。

　自動生成されるスパム対策は改善してきたものの、最近ではbotではなく、人間のユーザーが不正な情報を拡散する目的でアカウントを作るケースが増えてきたという。こうしたアカウントを捕捉するのは自動生成アカウントよりかなり困難であり、規約を守っているアカウントを巻き込む可能性が高いが、この対策についても改善に取り組んでいるとしている。

　同社は今後、スパムや不審な動きを検出した際の会社としてのアクションの変更をローリングアウトしていくとしている。これらは究極の解決策にはならないが、Twitterを思い通りに操作しようとする人々がいる限り、それを阻止する努力を続けるという。