大量のbotが作った「架空の交通渋滞」 イスラエルで起きたハッキングと人間の「反脆弱性」（3/4 ページ）

[安藤類央（国立情報学研究所），ITmedia]

　このドライバーを私たちはどう解釈すればいいのでしょうか。諸事情によりジョーカーを引かされた運の悪い人ともいえますし、大勢とは違う振る舞いをする黒い羊（裏切りモノ）と解釈する人もいるかもしれません。

　例えば「人類のために最初に毒キノコを食べた人間」は「このキノコは食べられない」と皆に知らしめたことになります。少し大げさですが、最初に毒キノコを食べた人は偉大なリスクテイカーであり「英雄」であるといえるかもしれません。ドライバーについても同じような解釈ができそうです。

　いずれにせよ、このドライバーは希少な経験をネットワークに提供したことになります。アプリの情報を信じてルートBを選んだ大勢の人たちは「毎回少しずつ得をしている」わけですが、彼らは渋滞の中にいます。セキュリティの文脈でいえば、突然何かのインシデントに巻き込まれる可能性がある人たちなのです。この問題はリスク移転や外部性の点でよく話題になります。

AIは「悪意」を認識できない

　セキュリティの世界では、「infection」（空気感染）と「contagion」（接触感染）といった言葉を使うことがあります。カーナビアプリの例でも分かるように、靴下人形は心と感情を持った人間をcontagionするものと捉えることができます。靴下人形は心のある人間をcontagionすることを目的としていますが、その場合、靴下人形自体は人間の心や意識が、どこにあるのかを知る必要はありません。

　靴下人形を作成することを、靴下人形芝居（ソック・パペットリ）と呼ぶことがあります。クローリングやプログラミングを駆使して、“botの軍団”を自動作成しますが、その規模はさまざまです。

　ジャーナリズムコミュニティサイトの英Contributoriaによると11年、ハッカー集団Anonymousを名乗る活動家のハッキングにより、米軍が「メタルギア」という靴下人形系のソフトウェアを使い、偽のTwitterアカウントを管理していたことが分かったそうです。これは、人間50人が500個のアカウントを管理するものでした。