連載
» 2020年06月17日 07時00分 公開

星暁雄「21世紀のイノベーションのジレンマ」:「顔認識技術を禁止せよ」 黒人差別を受けハイテク大手の対応は? (1/3)

米国で顔認識技術への批判が強まっている。IBM、Amazon、Microsoftが相次いで、警察など法執行機関への顔認識技術の提供を中止すると発表した。以前から顔認識技術は「人種差別、性差別を助長する」との批判があった。事件を機に大手テクノロジー企業が顔認識技術の提供中止に追い込まれた形だ。

[星暁雄,ITmedia]

 「顔認識技術は有害だ」「顔認識技術の利用を禁止せよ」──このような声が米国で高まっている。巨大テクノロジー企業の米IBM、Amazon、Microsoftは相次ぎ警察など法執行機関への顔認識技術の提供を中止すると発表した。

 「顔認識技術は有害」との表現に抵抗を感じる読者もいるかもしれない。「技術それ自体は善でも悪でもない」と考えるのが従来の常識だったからだ。だが時代は変わり、情報技術は大規模適用されて社会に影響を及ぼしている。いまや技術と倫理・人権の距離は非常に近い。機械学習に基づく顔認識技術には人種差別、性差別が組み込まれており、使い方によっては社会から排除されがちな人々をより脆弱(ぜいじゃく)な立場に追いやる危険性が指摘されている。

 引き金を引いたのは、2020年5月25日に米ミネアポリスでアフリカ系アメリカ人ジョージ・フロイド氏が、警官官に首を押さえつけられ死亡した事件だ。人種差別に反対する運動が広がり、人種差別の要素を持つ技術への批判も高まった。以前から顔認識技術は「人種差別、性差別を助長する」との批判があった。事件を機に大手テクノロジー企業が顔認識技術の提供中止に追い込まれた形だ。

 事件以前から、米国の複数の自治体は警察の顔認識技術の利用を禁止していた。19年5月に米サンフランシスコ市、同年6月にマサチューセッツ州ソマービル市、7月にカリフォルニア州オークランド市、12月にはマサチューセッツ州ブルックライン市が禁止している。サンディエゴ市は20年1月、利用停止を決議した。今では米国の連邦政府として顔認識技術を規制する法整備の取り組みが動いている。

 なぜ、これほどまでに顔認識技術への批判が高まっているのか。

アフリカ系アメリカ人女性の大学院生ジョイ・ブォロムウィニ氏は、顔認識ソフトが自分の顔を認識してくれないことに気がつく。だが「白いお面」を付けることで同じソフトは「顔である」と認識した(「TEDxBeaconStreet」より)

顔認識にひそむ人種差別、性差別

 画像を使って人間の顔を識別する技術「顔認識(facial recognition)」には長い歴史があるが、最近になってその問題点が指摘されるようになった。

 1点目に、顔認識技術は市民の監視に利用されやすい。米国の警察は人口の半数をカバーする顔画像データベースを持っているといわれている。街頭の監視カメラやソーシャルメディアで流通した写真などと付き合わせれば、簡単に個人を特定されるおそれがある。

 2点目に、米国の警察はアフリカ系アメリカ人などマイノリティを標的にしがちな傾向があるといわれている。顔認識技術の利用は、差別されている人々を「より脆弱(ぜいじゃく)な立場」に追いやるために使われる可能性がある。

 3点目に、白人男性に比べて、アフリカ系アメリカ人やアメリカ先住民族に対する顔認識技術の認識率は低く、誤検出の可能性が高い。このため警察による誤認逮捕などに結びつくおそれがある。

 このように、顔認識技術は個人のプライバシーを侵害する懸念が高く、人種差別、性差別を固定化し拡散する性質があると考えられている。

 ここで疑問を持つ読者もいるかもしれない。中国では17年にアント・フィナンシャルが顔認識で決済できるサービスを店舗に導入した(関連記事)。日本では、19年12月から大阪メトロが顔認識(顔認証)を使った自動改札機の実証実験を始めている。こうした顔認識技術の有用性に注目した取り組みについてはどう考えればいいのだろうか。

 米国での論調は非常に厳しい。「顔認識技術は有用性より有害性がはるかに上回る危険な技術である」と強く主張する論文も出ている。大規模監視と、脆弱な人々をより脆弱な立場に追いやり格差を固定する性質があることから、機械学習に基づく顔認識技術そのものが批判されているのだ。関連して、19年11月に米紙New York Timesが報道した、中国ウイグル自治区の少数民族弾圧で顔認識技術が使われた事実も、顔認識技術そのものへの懸念につながっている。

       1|2|3 次のページへ

Copyright © ITmedia, Inc. All Rights Reserved.

アクセスランキング
  • 本日
  • 週間