Twitter、画像の自動トリミングバイアス調査結果　白人と女性をわずかに優遇

公開 2021年05月20日 10時36分

更新 2021年05月20日 10時35分

著者

佐藤由紀子

[ITmedia]

印刷する

　米Twitterは5月19日（現地時間）、人種差別的だと批判された機械学習による投稿画像の自動トリミングの偏りに関する調査結果を発表した。

間に白い空白を挟んで自動トリミングせざるを得なくしたサンプル画像。左上はTwitterが採用するAIによる顕著性スコアのヒートマップ（論文より）

　調査の結果、黒人と白人の比較では、民主的公平性（demographic parity、機械学習における公平性の要件）と4％の違い（白人が優位）が、男性と女性では8％の違い（女性が優位）があった。黒人男性と白人男性では白人男性が2％、黒人女性と白人女性では白人女性が7％優位だった。

　機械学習によるトリミングは2018年、タイムラインを見やすくする目的で採用された。視覚的に目立つ部分を把握する「視覚的顕著性」の研究データで学習させ、人が画像を見た時に一番初めに目がいく部分を中心にトリミングするというものだった。

　これについて、白人と黒人が写っていると白人を中心にトリミングされるなどの批判があり、Twitterは調査を約束した。同社は3月に自動トリミングせずに投稿する機能のテストを開始し、肯定的なフィードバックが多かったため、今月からほとんどの画像を自動トリミングせずに投稿できるようにした。

　Twitterは、アルゴリズムはまだテストしていない他の方法で有害である可能性があり、機械学習による自動トリミングはユーザーから主体性を奪うことに繋がるとし、「Twitter上のすべてがアルゴリズムに向いているとは限らず、このケースでは画像のトリミング方法はユーザーに任せるのが最善だという結論に達した」としている。

印刷する