Facebookのヘイト対策に「大穴」 〜ザッカーバーグの矛盾とは〜：星暁雄「21世紀のイノベーションのジレンマ」（5/5 ページ）

[星暁雄，ITmedia]

個別の取り組みには一定の評価

　Facebookに対する公民権監査の報告書はトランプ大統領の不適切発言への対処を厳しく批判するが、それ以外の側面にも言及している。Facebookが公民権を守るために、つまり差別を撤廃するためにどのような具体策を打ち出したのか。これはFacebookだけでなく、私たちインターネット利用者にとっても興味深い話といえる。

1. 広告システムの改善：米国の住宅、雇用、クレジットに関する広告主は、年齢、性別、ZIPコード（住んでいる地域）によるターゲティングが認められないことにFacebookは同意し、必要な措置を講じた。
2. 投票を妨害する行為への対策：監査人らの要請に応えて、Facebookはこのためのポリシーを大幅に拡充した。投票に対する脅迫的な書き込みや、投票に干渉する書き込みはポリシー違反とされるようになった。Facebookは投票権の専門家を2人雇い、ポリシー、製品、運営の各チームと協力してトレーニングを行った。
3. 国勢調査の妨害への対策：Facebookが国勢調査への「虚偽情報や参加意欲を削ぐような脅迫的なキャンペーン」で汚染されないようにするため、専門家を雇いトレーニングを行った。
4. 会社全体で長期的に公民権に対する意識と説明責任を高めるための措置：公民権に関するVP（副社長）レベルの幹部を雇うことを約束した。
5. 投稿内容へのペナルティについて、手続きの変更と透明性の向上：例えば投稿者ごとに過去のコミュニティ基準を確認できるようにした。
6. 米国で差別撤廃に取り組んできた公民権団体のリーダーらとの協議をより頻繁に実施。
7. 白人ナショナリズム、白人分離主義を明示的に賞賛、指示、表明することを禁止するポリシーの拡大。ヘイト言説を奨励したり呼びかけたりするコンテンツを禁止するポリシーの導入。
8. ダイバーシティー：チーフ・ダイバーシティー・オフィサーの地位を、COO（最高執行責任者）に直接報告する立場に昇格させた。今後5年で有色人種のリーダー職を30%増やし、その中で黒人の数を30%増やす目標を定めた。
9. マイノリティーのビジネスや非営利団体への資金提供を増やした。
10. 「責任ある人工知能（AI）」の研究、アルゴリズムが含む偏見に対処する社内体制を強化。
11. プライバシーポリシーを大幅に変更。

　個別の取り組みを見れば、Facebookは大小さまざまな取り組みを実行している。例えば「責任あるAI」を巡っては、最近、顔認識技術そのものに人種差別が含まれているとしてIBM、Amazon、Microsoftらが顔認識技術の提供を中止する出来事があった（関連記事）。Facebookはこの新しい課題への対応をすでに始めているわけである。

　そして、報告書では、監査人が推奨する取り組みを5つ挙げている。

1. 投票の妨害への対策の徹底。特にトランプ大統領の投票（選挙に関するデマ情報など）を禁止すること。20年秋の大統領選挙に向けて、より強固で一貫性のあるポリシーを実施すること。
2. 企業としての意思決定における公民権の優先順位をより明確にし、一貫性を持たせる。
3. イスラム教徒、ユダヤ人のような特定のグループへの「組織的なヘイト（憎悪）」を研究、対処するためにより多くのリソースを投入する。
4. 白人ナショナリズム、白人分離主義の明示的な言及だけでなく、その表現を賞賛、支持する行為を含めて禁止すること。
5. アルゴリズムが含む偏見に対処するより具体的な行動と約束。

　これが、米国で最も影響力が大きなソーシャルネットワークサービスであるFacebookに対して、公民権問題の専門家が突きつけた要求である。

　Facebookに突きつけられた批判と要求は、日本にいる私たちにとっても対岸の火事ではない。デジタル経済の分野で世界的に成長する企業であれば、いつかは必ずぶつかる問題群なのだ。

筆者：星 暁雄

フリーランスITジャーナリスト。最近はブロックチェーン技術と暗号通貨／仮想通貨分野に取材対象として関心を持つ。学生時代には物理学、情報工学、機械学習、暗号、ロボティクスなどに触れる。これまでに書いてきた分野は1980年代にはUNIX、次世代OS研究や分散処理、1990年代にはエンタープライズシステムやJavaテクノロジの台頭、2000年代以降はクラウドサービス、Android、エンジニア個人へのインタビューなど。イノベーティブなテクノロジー、およびイノベーティブな界隈の人物への取材を好む。