「人を審査するAI」のリスクとは？ 現金給付アルゴリズムが“暴走”した世界銀行の事例：事例で学ぶAIガバナンス（2/3 ページ）

[小林啓倫，ITmedia]

アルゴリズムに不備　救われない人たちも

　タカフルのプロセスは、申請者がアンケートに記入するところから始まる。彼らは氏名や国民IDといった基本的な情報に加え、賃金や生活費（食費・家賃・教育費など）、電気・水道メーターのIDといった収入・支出に関する情報を申告しなければならない。

　この情報は37の政府機関が保有する各種データ（自動車登録や営業許可書、職歴、他の社会保護プログラムへの登録など）と組み合わされ、給付希望者の包括的プロフィールが作成される。次に57の社会経済指標を用いて、収入と貯蓄を推定し、貧しさのランク付けを行う。そして予算の許す限り、最も貧しい家族から現金給付が行われる。

　ところがヒューマン・ライツ・ウォッチの調査によれば、申告した支出が収入を上回っていると、申請が通らない場合があることを確認。収入に見合う支出を行っていなければ、それは浪費であり支援できない、ということだろう。

　しかし現実には、支出が収入を上回ってしまうのは、決して浪費しているからだけではない。収入を得る機会が限られている中で家族を養うために、やむを得ずお金を借り、必要な支出を行っている場合もある。支出を理由に一律で申請を却下するのは、明らかに不適切だ。また仕事のため、あるいは水や薪を運ぶために車が必要だったにもかかわらず、車を所有していたことで申請が通らなかったケースも見られた。

　さらにヨルダンの法律では、ヨルダン人女性がヨルダン国民でない男性と結婚した場合、配偶者や子供が市民権を得ることができない。彼らは世帯人数にカウントされず、またタカフルの給付は世帯単位で行われるため、ヨルダン人女性が給付対象となっても、得られる現金の額が少なくなってしまう場合がある。これらのケースも、困窮者たちの実態を反映していないといえるだろう。

　こうしたアルゴリズムの不備に対応するため、申請者の中には無理に支出を削ったりする者も出ており、ヒューマン・ライツ・ウォッチは「アルゴリズムが算出する必要性に合わせて人々に苦難を強いることは、タカフルのターゲティングの正確性を損ない、限られた資源を最大限に活用する最も効果的な方法であるという、ヨルダン政府や世界銀行の主張を台無しにする」と主張している。