ITmedia NEWS > 社会とIT >
連載
» 2023年07月20日 08時00分 公開

AI「保護率39%」、児相は一時保護見送り…… 三重の“4歳女児暴行事件”をAIガバナンス観点で考える事例で学ぶAIガバナンス(1/3 ページ)

三重県津市で4歳の女児が親から暴行され、死亡した。この事件に関わった児童相談所では、人手不足を理由にAIを活用したシステムを導入。この件では、一時保護率39%と判断したため児童の保護が見送られていた。AIガバナンスの観点から、改善点を考える。

[小林啓倫ITmedia]

 三重県で痛ましい事件が起きてしまった。津市で4歳の女児が親から暴行され、死亡したのである。まず何より、こうした虐待死事件が1件でも減り、また育児に問題を抱える親には支援の手が差し伸べられるようになることを願いたい。

 この事件が報じられる中で、三重県の児童相談所のある対応が注目を集めた。虐待を受けていた女児を事件の1年以上前から「要保護児童」と認定し、一時保護を検討していたが、結局実行しなかったのだ。三重県はその一因として「AIによる判断」があったことを明らかにした。

 この児童相談所では2020年に、人手不足や担当者の経験不足を補うために、AIを活用した児童保護の支援システムを導入していた。このシステムには「一時保護率」という類似の過去事例での保護率を算出する機能がある。今回のケースでは39%と判断されたため、一時保護が見送られていたというのだ。

AIが下した「保護率39%」の判断

 このシステムを開発した、児童相談業務の支援事業を手掛けるAiCAN(神奈川県川崎市)の事業報告書によれば、この値は「通告の対象となった児童についてのリスクアセスメント項目の傾向が、過去にどれくらい一時保護の対象とされたかを示す参考指標」という。

AiCANの事業報告書から引用

 具体的には、事例の概要を入力すると過去の類似ケース(各社の報道によると、三重県のシステムには既に、約1万3000件の過去の事案データが登録されていた)が確認され、それらの中で何割が一時保護に至ったのかを示してくれるそうだ。つまり今回の39%というのは、過去同様の状況下において、およそ5回に2回保護が行われていたということになる。

 もちろんこの数字が出力されたからといって、AIが「一時保護は不要だ」という指示を出したという意味ではない。三重県の一見勝之知事は、7月11日の記者会見で「AIの数値は参考にしかすぎないものであった」と発言している。あくまで人間が最終判断を下す体制となっていたわけだ。

三重県の一見勝之知事

 しかし「AIシステムが一時保護の必要性を低く算出した」、そして「その結果を職員がうのみにした」という構図が描けてしまうことから、この対応は大きな注目を集め、一時は「保護率39%」というキーワードがTwitter上でトレンドとなるほどであった。

 筆者はこの事件について、誰かを非難するつもりはない。虐待死という痛ましい事件が繰り返されないようにするためには、児童相談所や両親・家族に責任を押し付けるのではなく、社会が一丸となって問題解決に臨む必要があるだろう。その前提を置いた上で、AIガバナンスという観点から、この一件が起きる前にどのような改善が可能だったかを考えてみたい。

       1|2|3 次のページへ

Copyright © ITmedia, Inc. All Rights Reserved.