「AIが神格化した世界」はディストピアか？　AIの誤判定で“3万人超”の人生狂わせたオランダ政府の事例（1/2 ページ）

公開 2023年07月03日 08時02分

更新 2024年04月02日 11時10分

著者

小林啓倫

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

　5月、AIの安全性に関して発信しているNPO団体「Center for AI Safety（CAIS）」から、ある声明が発表され注目を集めた。それは「AIリスクに関する声明（Statement on AI Risk）」。「AIは人類を滅ぼす」とするセンセーショナルな内容と、生成AI「ChatGPT」の開発企業、米OpenAIのサム・アルトマンCEOなどが署名していることから大きな話題を呼んだ。

CAISが発表した「AIは人類を滅ぼす」という声明

　この声明にはAIが人類を滅ぼす具体的な根拠は書かれていないが、CAISのWebサイトではいくつかのシナリオを提示している。「AIが武器化する」「AIによって偽情報が拡散される（それによって社会が崩壊する）」「AIによって生活が便利になり過ぎ、それに甘えた人類が衰退してしまう」などだ。

AIは人類を滅ぼすのか？

　今回の声明に対する賛否は専門家の間でも分かれており、議論の決着はついていない。しかし、人類が滅ぶとまではいかなくても、既にAIはさまざまな形で私たちの生活に実害をもたらすようになっている。特に大きな被害が出た事件はオランダで起きた“不正検知AI騒動”だ。

　この事例ではどんな技術を使っているか詳細を明かしていないため、記事内では“機械的なアルゴリズム”という広い意味でAIと表現する。

自殺者まで出したAIのアルゴリズム

　CAISの声明に先立つことおよそ1カ月前の4月。レナーテ・ウォルバースさんという女性とそのパートナー、ユルン・ウォルテリンクさんの2人が、オランダ政府を相手に起こした民事訴訟で勝利を収めた。訴訟内容は、オランダ政府が彼らを児童手当の不正受給者と誤認し、その返済で厳しい生活を強いたというものだった。

　レナーテさんとユルンさんは収入が乏しかったことから、2005年から児童手当を受け取っていた。ところが08年末、オランダ当局は突然、彼らの申請が不正ではないかとの疑いを持った。10年には不正受給であったと正式に認定し、彼らに児童手当と関連諸経費の返済を求めた。

　報道によれば、その総額は9万2000ユーロ（およそ1400万円）にも達したという。もともと児童手当が必要だったほど家計が苦しかったレナーテさんたちは、その返済に大きな犠牲を強いられることになる。1週間の食費が10ユーロ（およそ1500円）しかないこともあったほどの苦しさで、5人の子供のうち上の2人は、ホストペアレントに引き取られることになった。彼らのもとに生まれた孫2人の顔も、まだ見られていないという。

　ところが19年、この不正認定が誤りであったことが明らかになった。実はオランダ政府は、児童手当の不正受給を効率的に把握し、払い過ぎていたお金を回収する（彼らも厳しい予算の中で迅速に国民を支援する必要があった）ために、AIによる不正検知に取り組んでいたのである。

　そのアルゴリズムに不適切な点があり、レナーテさんのような家族を生み出してしまっていた。別の報道によれば、その数は3～7万人ともいわれ、レナーテさんのケースのように親元から引き離されることになった子供は1000人以上、さらには自宅の売却を余儀なくされたり、自殺したりする人も出たという。実際にレナーテさん以外にも、彼らと同様の裁判が合計6件起こっている。