AI「保護率39％」、児相は一時保護見送り……　三重の“4歳女児暴行事件”をAIガバナンス観点で考える（2/3 ページ）

公開 2023年07月20日 08時02分

更新 2024年04月02日 11時09分

著者

小林啓倫

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

どうすれば悲劇は防げたのか？

　まず何より、AIの判断精度を上げられなかったのかという疑問が挙げられる。この点はTwitter上でも、多くの人々が指摘していた。「システムは39％と予測したが、結果的に虐待死が起きていたではないか、より高い数値を出していれば職員も対応に当たったのではないか」というわけだ。

　前述の通り、三重県のシステムは過去の1万件を超えるデータに基づいて判断が行う仕組みになっていた。三重県から過去に発表された資料を見ると、システムの立ち上げ当初は約6000件のデータを参照しているとなっているため、稼働後もデータの蓄積が行われてきたのだろう。それが十分だったかどうかはこの場では判断できないが、少なくとも精度向上の取り組みは続けられていたようだ。

　しかし、19年にこのシステムの実証実験が行われた際、実験に参加したNEDO（新エネルギー・産業技術総合開発機構）は、次のように指摘している。

AIが提示したシミュレーション結果は、これまでに現場で蓄積した過去の情報に基づくものであり、職員が意思決定する上で有効な判断材料となることが期待されます。その一方で、発生頻度が極端に低い事例や過去に一度も発生していない事例を予測することは困難なため、最終的な意思決定は、人間がAIにはできない経験や最新の動向なども踏まえて行う必要があります。

NEDOの公式Webサイトから引用

　今回の事件では、虐待を行った母親が、児童相談所の指導に応じる姿勢を示したと報じられている。にもかかわらず、虐待死までに至っているわけだ。その意味で、このケースは「判断頻度が極端に低い事例」に該当していたのかもしれない。

　いずれにしても、過去のデータから判断する機械学習型のAIでは、新しいケースへの対応が難しい。そして社会情勢や経済状況、親子関係が常に変わり続けている以上、過去にない虐待事例が発生する可能性は常に存在する。従って、一時保護の必要性を絶対に見落とさないAIを開発するのは極めて難しいと言わざるを得ない。

　そうした理由から「そもそも虐待という生死に関わる問題でAIを使うのが悪いのだ」という意見も多く見られた。確かにガバナンスの観点からは、リスクの許容量が極めて小さいテーマ、すなわち人間の命や企業の存続に関わるようなテーマで機械の判断を取り入れることには慎重になる必要があった、と指摘できるだろう。

AIは人材不足の救世主になるか？

　しかしこの件で忘れてならないのは、もともとこの虐待対応という領域では、機械の判断はおろか人間の判断も追い付かない状況が生まれていたという点だ。

　事件直前の6月、三重県は22年度の児童虐待相談対応件数を公表している。それによると、合計2408件で、過去最多を記録していたそうだ。その一方で、児童相談所の職員数は21年度が214人、22年度が219人と、ほとんど増加していない。

三重県の児童虐待相談件数

　また22年度の報告書では、急増する児童虐待などに対応する児童相談所の問題点として「児童虐待に対応する専門的人材の不足」「バックアップ体制不足による児童相談所職員の過度の心理的負担の増加」「中長期的な児童相談体制を支える人材の育成とスキルの蓄積が必要とされたこと」などが挙げられている。

　これは三重県が異常というわけではない。厚生労働省の調べによると、児童虐待の相談対応件数は99年から17年までで約12倍に増加。一方、子供らからの相談対応や家庭調査を行う児童福祉司の数は約2.6倍増にとどまり、児童福祉の現場で働く職員たちの業務量は非常に逼迫（ひっぱく）した状況にある」と指摘している。

　またAiCANの報告書では「児童相談所の職員の約半数は経験3年未満と、全体的に職員の経験年数は短い傾向にあった」「児童相談所によって職員の経験年数の構成は大きく異なっており、業務量の多い児童相談所ほど経験の浅い職員の割合が高い傾向にあった」などの事実が明らかになっている。

　こうしたデータから、児童虐待防止の現場では、急増する案件に対する慢性的な人手不足、その結果としてのスキルや経験に乏しい職員による対応といった状況が発生していることが見て取れるだろう。

　AIシステムの導入は、そうした知識や経験、マンパワーの不足を補うために進められてきたものだ。人間が手厚い対応を行っていたものが、機械化されてケアの質が落ちた、という構図ではない。むしろ対応の空白を埋めようとするものであり、たらればは禁物とはいえ、今回のケースも「AIが導入されていなかったら虐待リスクを正しく把握できていた」とは言い切れないはずだ。

次ページへ「AIの判断」を正しく認識するために