事例で学ぶAIガバナンス

「人を審査するAI」のリスクとは？　現金給付アルゴリズムが“暴走”した世界銀行の事例（2/3 ページ）

アルゴリズムに不備　救われない人たちも

　タカフルのプロセスは、申請者がアンケートに記入するところから始まる。彼らは氏名や国民IDといった基本的な情報に加え、賃金や生活費（食費・家賃・教育費など）、電気・水道メーターのIDといった収入・支出に関する情報を申告しなければならない。

　この情報は37の政府機関が保有する各種データ（自動車登録や営業許可書、職歴、他の社会保護プログラムへの登録など）と組み合わされ、給付希望者の包括的プロフィールが作成される。次に57の社会経済指標を用いて、収入と貯蓄を推定し、貧しさのランク付けを行う。そして予算の許す限り、最も貧しい家族から現金給付が行われる。

　ところがヒューマン・ライツ・ウォッチの調査によれば、申告した支出が収入を上回っていると、申請が通らない場合があることを確認。収入に見合う支出を行っていなければ、それは浪費であり支援できない、ということだろう。

　しかし現実には、支出が収入を上回ってしまうのは、決して浪費しているからだけではない。収入を得る機会が限られている中で家族を養うために、やむを得ずお金を借り、必要な支出を行っている場合もある。支出を理由に一律で申請を却下するのは、明らかに不適切だ。また仕事のため、あるいは水や薪を運ぶために車が必要だったにもかかわらず、車を所有していたことで申請が通らなかったケースも見られた。

　さらにヨルダンの法律では、ヨルダン人女性がヨルダン国民でない男性と結婚した場合、配偶者や子供が市民権を得ることができない。彼らは世帯人数にカウントされず、またタカフルの給付は世帯単位で行われるため、ヨルダン人女性が給付対象となっても、得られる現金の額が少なくなってしまう場合がある。これらのケースも、困窮者たちの実態を反映していないといえるだろう。

　こうしたアルゴリズムの不備に対応するため、申請者の中には無理に支出を削ったりする者も出ており、ヒューマン・ライツ・ウォッチは「アルゴリズムが算出する必要性に合わせて人々に苦難を強いることは、タカフルのターゲティングの正確性を損ない、限られた資源を最大限に活用する最も効果的な方法であるという、ヨルダン政府や世界銀行の主張を台無しにする」と主張している。

事例で学ぶAIガバナンス

AIを本格的に業務に取り入れ、大きな効果を得たいと考える企業の数は日本でも着実に増えている。一方、米国企業に比べて「AIガバナンス」の導入は遅れていると指摘する声もある。AIを開発・利用するに当たり、どのようなガバナンスが必要になるのか。実際の事例を基に考える。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  AI「保護率39％」、児相は一時保護見送り……　三重の“4歳女児暴行事件”をAIガバナンス観点で考える

• 

  「AIが神格化した世界」はディストピアか？　AIの誤判定で“3万人超”の人生狂わせたオランダ政府の事例

• 

  生成AIの自社ルールの作り方　米AP通信の例　「“何をさせないか”を明らかに」

• 

  生成AIで電話応対を効率化　最大54％の時間削減に成功　ELYZAとJR西日本のコンタクトセンターの事例

• 

  「AIが人類を支配したら？」が現実味を帯びてきた件　加速する“AIアライメント”議論の現在地