TwitterのAIバイアス発見コンテスト、「若くてスリムな顔優先」発見に3500ドル

[佐藤由紀子，ITmedia]

　米Twitterは8月9日（現地時間）、7月に発表した投稿画像のトリミングAIに潜在するバイアス発見コンテストの勝者を、ハッカーカンファレンスDEFCONで発表した。1位は、アルゴリズムが「スリムで若く見え、肌の色が薄い顔を優先する」と指摘したスイスのEPFL工科大学の大学院生、ボグダン・クリニッチ氏。同氏には賞金3500ドル（約39万円）が贈られる。

　米Googleなど、脆弱性の発見者に報奨金を提供する企業は多いが、Twitterの報奨プログラムはアルゴリズムのバイアス発見が対象。

　Twitterは2018年から投稿画像のトリミングにAIを採用しているが、昨年9月にこのトリミングが人種差別的だという指摘を受け、調査している。5月には関連コードを公開して外部に協力を仰ぎ、7月にコンテストを発表した。

　優勝したクリニッチ氏によると、TwitterのAIは、「スリムで若く、明るいか暖かい肌の色、なめらかな肌の質感、女性的な顔の人々を優先する方向に偏っている」と指摘した。「このバイアスは、少数派の集団の排除と、ステレオタイプの美しさの基準の永続化をもたらす可能性がある」という。

How to Become More Salient? Surfacing Representation Biases of the Saliency Prediction Model

　クリニッチ氏は自身のツイートで、米Facebookが同社のプラットフォーム上の政治広告実態調査をしていた研究者のアカウントを停止したことを引き合いに出し、Twitterがコードを公開し、報奨金コンテストを実施したことはアプリの改善に役立つとして高く評価した。