「顔認識技術を禁止せよ」 黒人差別を受けハイテク大手の対応は？：星暁雄「21世紀のイノベーションのジレンマ」（2/3 ページ）

米国で顔認識技術への批判が強まっている。IBM、Amazon、Microsoftが相次いで、警察など法執行機関への顔認識技術の提供を中止すると発表した。以前から顔認識技術は「人種差別、性差別を助長する」との批判があった。事件を機に大手テクノロジー企業が顔認識技術の提供中止に追い込まれた形だ。

[星暁雄，ITmedia]

顔認識の人種差別、性差別の傾向を実証

　顔認識への批判の早期の事例として、16年に開かれたイベント「TEDxBeaconStreet」でのスピーチを見てみたい。ガーナにルーツを持つアフリカ系アメリカ人女性の大学院生ジョイ・ブォロムウィニ（Joy Buolamwin）氏は、顔認識ソフトが自分の顔を認識してくれないことに気がつく。だが「白いお面」を付けることで同じソフトは「顔である」と認識したのだ。

　このときスピーチしたブォロムウィニ氏は、現在はMIT Media Labの「Gender Shades」と呼ぶ研究グループのリーダーだ。同グループが18年に発表した研究成果は、顔認識技術の差別性を示す結果としてよく引用される。IBM、Face++、Microsoftの3社の顔認識ソフトウェアを比較し、「明るい肌の男性」はエラー率0.8%なのに対し、「暗い肌の女性」はエラー率が34.7%に及ぶことを示したのである。最も格差が大きいのはIBMの製品だった。

2018年の調査で最も成績が悪かったのはIBM製品。「明るい肌の男性」に比べ「暗い肌の女性」は34.4%も誤認識率が高かった

　これは、アフリカ系アメリカ人女性にとって深刻なことだ。人種、性差で認識率に大きく格差がある顔認識技術を警察が使い始めると、誤認逮捕される可能性が高くなってしまう。

　18年7月、人権団体のACLU（アメリカ自由人権協会）は顔認識技術に関する印象深い調査結果を公表した（発表資料）。Amazonの顔認識技術「Rekognition」を使い、犯罪者が逮捕された時に撮影される顔画像2万5000枚と、米国の上院議員、下院議員の公開写真と照合するテストを行った結果、米国の28人の議員を「犯罪者と同一人物である」（偽陽性）と判定したのである。米議員の中で非白人は20%しかいないが、誤認識された議員の40%は非白人だった。Amazon製品が白人以外の認識率が悪いことを、印象的な形で明らかにした調査といえる。ACLUは、「Amazonは政府機関に顔認識ソフトを提供するべきではない」と主張した。

Amazonの顔認識技術は、米国の28人の議員を「犯罪者と同一人物である」と判定した。いわゆる偽陽性だ（人権団体のACLUのレポートより）

　その後、より大規模な調査が出た。19年12月、米国の国立研究所NIST（米国標準技術研究所）は189種類の顔認識ソフトを評価し、1対1マッチングでほとんどの顔認識システムはアジア人やアフリカ系米国人に対して、白人より10〜100倍も誤認識率が高かったと報告した。