「顔認識技術を禁止せよ」 黒人差別を受けハイテク大手の対応は？：星暁雄「21世紀のイノベーションのジレンマ」（3/3 ページ）

[星暁雄，ITmedia]

IBM、Amazon、Microsoftが相次ぎ顔認識技術の提供を中止

　米IBMは6月8日、フロイド氏の死亡事件を受けて「汎用の顔認識ソフトウェアから撤退する」と発表した（発表資料）。この発表は政策提言の形を取っており、その柱は（1）警察改革、（2）テクノロジーの責任ある利用、（3）教育支援の3つだ。ここで「テクノロジーの責任ある利用」とは、IBMにとっては「汎用の顔認識技術」の提供を中止することだった。IBMの顔認識技術は前述した「Gender Shades」の調査結果で最も人種・性の格差が大きかった。

　米Amazonは6月10日、同社の顔認識ソフトウェアの警察での利用を1年停止すると発表した（発表資料）。同社は「政府が顔認識技術の倫理的な使用を管理するために、より強い規制を設けるべき」としており、1年の間に顔認識技術への適切な規制が打ち出されることを期待する発表文面となっている。Amazonの顔認識技術は、前述のACLUによる調査で人種差別的と名指しされていた。

　米Microsoftのプレジデントを務めるブラッド・スミス氏は、6月11日に米紙Washington Postが開催したライブイベントで、「顔認識技術を1年間は法執行機関（警察など）に提供しない」と明らかにした（関連記事）。スミス氏は、18年に「顔認識技術の規制を推進するべきだ」と唱えている。

　Googleの「倫理的AIチーム」共同リーダーを務めるティムニット・ゲブル（Timnit Gebru）氏は、「現状では、顔認識は禁止するべきだ」と述べた（関連記事）。ゲブル氏は東アフリカのエルトリアにルーツを持つアフリカ系アメリカ人女性で、前述のMIT Media Labの研究グループ「Gender Shades」のメンバーでもある。前出のブォロムウィニ氏と共同研究を行っている。

人権団体アムネスティは激しく非難

　6月11日、人権団体アムネスティ・インターナショナルは「顔認識を禁止せよ」との声明を出した。「顔認識技術は、黒人コミュニティを標的とした警察による人権侵害を悪化させる可能性がある」と指摘する。特に、直近のジョージ・フロイド氏殺害事件を機に高まった人種差別撤廃運動の参加者への取り締まりのために「顔認識を使うな」と主張する。平和的なデモ活動の参加者には匿名で参加する権利があり、警察が顔認識技術を濫用することはこの権利の侵害にあたると指摘した。

　この声明の背後にはある文脈がある。アムネスティは以前から顔認識技術が人権侵害につながると警告し、産業界の対応が鈍いと批判してきたのだ。

　18年、アムネスティと人権団体Access Nowが共同で公表した「トロント宣言」は、機械学習（ML）技術が差別を固定、拡散する懸念を警告したものだ。アムネスティは19年に、このトロント宣言に対するテクノロジー企業の対応が鈍いことに失望する声明を発表している。この声明では、テクノロジー企業がAI倫理に関するチームを組織する一方で、顔認識の禁止のような具体的な取り組みが進まないことに対して、「倫理ウォッシング」であると強く非難している。倫理ウォッシングとは「倫理問題に取り組んでいるふりをしているだけで、具体的な動きを見せていない」との批判の意味が込められた言葉だ。

　この声明から1年たって、大手テクノロジー企業IBM、Amazon、Microsoftはジョージ・フロイド氏殺害時件後の世論の高まりを受けて顔認識技術の提供を中止する事態に追い込まれたわけだ。

　前述したように、顔認識技術は、大規模監視に使われる可能性が高く、社会的に排除されがちな人々をより脆弱な立場に追いやる形で利用される可能性が高く、人種差別や性差別が組み込まれている懸念が高い。もはや「技術自体は善でも悪でもない」とはいえない。

　先に引用したアムネスティの批判や今回の大手ベンダーの動きを見ても分かるように、法整備が進まない状態では、倫理や人権に関わる問題は企業の自主的な取り組みだけではなかなか解決しない。日本の産業界もこの問題と無縁なままではいられないだろう。顔認識技術に伴う倫理面の課題を検討し、必要な場合には顔認識技術の利用の一時中止（モラトリアム）など強い措置を打ち出せる組織を設け、倫理面の検討を進めるべきだ。

筆者：星 暁雄

早稲田大学大学院理工学研究科修了。1986年日経マグロウヒル社（現・日経BP社）に入社。『日経エレクトロニクス』『日経Javaレビュー』などで記者、編集長の経験を経て、2006年からフリーランスのITジャーナリスト。IT領域全般に興味を持ち、特に革新的なソフトウェアテクノロジー、スタートアップ企業、個人開発者の取材を得意とする。最近はFinTech、ブロックチェーン、暗号通貨、テクノロジーと人権の関係に関心を持つ。