TwitterのAIバイアス発見コンテスト、「若くてスリムな顔優先」発見に3500ドル
Twitterが初のAIバイアス発見コンテストの勝者を発表した。画像トリミングAIに「若くてスリムな顔を優先する」バイアスがあると指摘した大学院生が1位を獲得。賞金は3500ドルだ。
米Twitterは8月9日(現地時間)、7月に発表した投稿画像のトリミングAIに潜在するバイアス発見コンテストの勝者を、ハッカーカンファレンスDEFCONで発表した。1位は、アルゴリズムが「スリムで若く見え、肌の色が薄い顔を優先する」と指摘したスイスのEPFL工科大学の大学院生、ボグダン・クリニッチ氏。同氏には賞金3500ドル(約39万円)が贈られる。
米Googleなど、脆弱性の発見者に報奨金を提供する企業は多いが、Twitterの報奨プログラムはアルゴリズムのバイアス発見が対象。
Twitterは2018年から投稿画像のトリミングにAIを採用しているが、昨年9月にこのトリミングが人種差別的だという指摘を受け、調査している。5月には関連コードを公開して外部に協力を仰ぎ、7月にコンテストを発表した。
優勝したクリニッチ氏によると、TwitterのAIは、「スリムで若く、明るいか暖かい肌の色、なめらかな肌の質感、女性的な顔の人々を優先する方向に偏っている」と指摘した。「このバイアスは、少数派の集団の排除と、ステレオタイプの美しさの基準の永続化をもたらす可能性がある」という。
クリニッチ氏は自身のツイートで、米Facebookが同社のプラットフォーム上の政治広告実態調査をしていた研究者のアカウントを停止したことを引き合いに出し、Twitterがコードを公開し、報奨金コンテストを実施したことはアプリの改善に役立つとして高く評価した。
関連記事
- Twitter、画像の自動トリミングバイアス調査結果 白人と女性をわずかに優遇
Twitterが、機械学習による投稿画像の自動トリミングが人種差別的だという批判を受けて行った調査結果を発表した。白人と黒人ではわずかに白人が、男性と女性ではわずかに女性が優位であるという結論だった。 - Twitter、“縦長サムネ”の表示に対応 スマホアプリで
米Twitterが、タイムライン上のサムネイル画像を縦長で表示する機能を公開。iOS/Android向けアプリで提供する。 - Twitter、添付画像のタイムラインでのトリミングなし表示と4K表示のテスト開始
Twitterが、タイムライン上の画像をMLでトリミングせずに表示するテストと、画像を4K画質でアップロードするテストを開始した。 - Twitter、投稿画像のML自動トリミングバイアス問題について「WYSIWYG」を目指すと約束
Twitterで黒人と白人を縦長に並べた画像を投稿しようとすると、白人中心に自動トリミングされるというツイートを受け、Twitterが2018年から提供している自動トリミングの人種バイアスの調査過程を報告。いずれにしても投稿者が見たままの画像が投稿できるよう取り組むとしている。 - Twitter、投稿の画像トリミングを人工知能で従来より高速・適切に
Twitterが、画像投稿のトリミング方法をニューラルネットワーク採用の方法に切り替え、従来より10倍速く、適切にトリミングできるようになったとしてその方法を説明した。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.