なぜ顔認証技術の導入に失敗したのか？ 誤認識で被害者多数、ある小売チェーンの記録：Retail Dive

連邦取引委員会は薬局・小売チェーンのRite Aidが顔認証技術を不当に使用し、顧客に損害を与えたと述べ顔認識技術を5年間にわたって使用禁止とした。なぜこの導入は失敗したのだろうか。

[Nate Delesline III，Retail Dive]

　薬局・小売チェーンのRite Aidは、監視のために顔認識技術を使用することを5年間の禁止措置処分を受けた。この条件は、同社と連邦取引委員会（FTC）が2023年12月19日（現地時間）に発表した裁判上の和解の一部である（注1）。

　FTCによると、万引きの可能性のある行動、またはその他の問題行動を特定・追跡するために同社が導入したAI（人工知能）ベースの技術は、本人の知らないうちに画像を収集・保存し、何千もの誤認識が発生したという。その結果、多くの人々が誤って訴えられたようだ。

　Rite Aidは声明の中で、FTCの主張に対し一部異議を唱えている（注2）。同社は、「顔認識技術の試験プログラムは限られた店舗に導入されたもので、FTCの調査が始まる前の3年前に使用を中止した」と主張した。しかし、同社は調査を尊重した上で「消費者のプライバシーを保護するというFTCの使命に賛同している」として規制当局と合意し、この問題を過去のものとすることに安心していると述べた。

顔認証技術の店舗導入はハードルが高い　Rite Aidはなぜ失敗したか？

　FTCによると、Rite Aidは2012〜2020年にかけてAIを搭載した第三者の顔認識技術を使用し、万引きの可能性のある人物や問題行動を起こす人物を特定していた。

　しかし訴状によれば、この小売業者は消費者への危害を防ぐための合理的な対策を怠っていたという。顔認識技術がRite Aidの店舗で使用されている事実を顧客に知らせるべきだったとしている。

　FTCは「Rite Aidがそのような措置を講じなかった結果、従業員が偽りのアラートに基づいて行動し、消費者の後を付け回したり捜索したりしていた」と述べた。さらには店からの退去を命じ、警察を呼んで消費者との対立を引き起こし、時には友人や家族の前で万引きやその他の不正行為について公に非難したとも述べている。

　訴状によれば、同社はまた、顔認識技術を導入する前に精度を評価することや、顔認識システムとデータベースを担当する従業員に対し、誤認識の可能性を伝えて適切な訓練を実施することも怠ったという。FTCによると、こうした誤認識によって、有色人種がより頻繁に被害に遭ったようだ。

　Rite Aidはまた、サービスプロバイダーを適切に監督しなかったことで、2010年のFTC命令に違反したとして訴えられている。この命令に違反した結果、Rite Aidは情報セキュリティプログラムを実施しなければならず、同社のトップはそれを監督することが求められている。Reutersは2020年の調査で、顔認識サービスプロバイダーをDeepCamとFaceFirstと特定した（注4）。

　FTC消費者保護局のサミュエル・レヴィーン局長は声明で「Rite Aidの無謀な顔認識システムの使用は、顧客に屈辱やその他の損害を与え、2010年の命令違反は消費者の機密情報を危険にさらした。今回の画期的な命令によって、FTCは不公正な生体認証監視やデータセキュリティ慣行から国民を守るために警戒を怠らないことが明らかになった」と述べた。

　5年間の禁止措置にとどまらず、Rite Aidとその第三者技術プロバイダーに対し、顔認識システムによって収集された画像を削除すること、店舗内での生体認証監視の使用について消費者に通知すること、AIベースの監視に基づいて取られた行動に関する消費者からの苦情について調査し、書面で回答することを和解案は求めている。

　Rite AidとFTCとの和解には、金銭的な罰金や制裁金は含まれていない。FTCの広報担当者は電子メールで、「2021年の連邦最高裁判所の判決により、金銭的救済を得るための委員会の最も優れた手段の一つがなくなった」と述べた（注3）。とはいえ、今回の和解案には非常に強力な差止命令による救済が含まれている。Rite Aidが今後セキュリティのために自動生体認証技術を使用する場合、消費者を保護した上で、顔認識や分析技術を使用することを5年間禁止するといった内容だ。

　Rite Aidは2023年10月に連邦破産法第11条の適用を申請した（注5）。今回の和解に関するFTCの命令は、破産裁判所の承認を必要とする。同社は「将来を見据え、私たちは毎日サービスを提供している約100万人の顧客に主要なヘルスケア製品とサービスを提供し続けるために、財務基盤を強化すべく進行中の重要な行動に注力している」と述べた。

（注1）Rite Aid Banned from Using AI Facial Recognition After FTC Says Retailer Deployed Technology without Reasonable Safeguards（FEDERAL TRADE COMMISSION）
（注2）Rite Aid Reaches Settlement with FTC（Business Wire）
（注3）AMG Capital Management, LLC v. Federal Trade Commission（SCOTUS blog）
（注4）Rite Aid deployed facial recognition systems in hundreds of U.S. stores（REUTERS）
（注5）Rite Aid files for Chapter 11 bankruptcy, names new CEO（Retail Dive）

原文へのリンク