AI「保護率39%」、児相は一時保護見送り…… 三重の“4歳女児暴行事件”をAIガバナンス観点で考える:事例で学ぶAIガバナンス(1/3 ページ)
三重県津市で4歳の女児が親から暴行され、死亡した。この事件に関わった児童相談所では、人手不足を理由にAIを活用したシステムを導入。この件では、一時保護率39%と判断したため児童の保護が見送られていた。AIガバナンスの観点から、改善点を考える。
三重県で痛ましい事件が起きてしまった。津市で4歳の女児が親から暴行され、死亡したのである。まず何より、こうした虐待死事件が1件でも減り、また育児に問題を抱える親には支援の手が差し伸べられるようになることを願いたい。
この事件が報じられる中で、三重県の児童相談所のある対応が注目を集めた。虐待を受けていた女児を事件の1年以上前から「要保護児童」と認定し、一時保護を検討していたが、結局実行しなかったのだ。三重県はその一因として「AIによる判断」があったことを明らかにした。
この児童相談所では2020年に、人手不足や担当者の経験不足を補うために、AIを活用した児童保護の支援システムを導入していた。このシステムには「一時保護率」という類似の過去事例での保護率を算出する機能がある。今回のケースでは39%と判断されたため、一時保護が見送られていたというのだ。
AIが下した「保護率39%」の判断
このシステムを開発した、児童相談業務の支援事業を手掛けるAiCAN(神奈川県川崎市)の事業報告書によれば、この値は「通告の対象となった児童についてのリスクアセスメント項目の傾向が、過去にどれくらい一時保護の対象とされたかを示す参考指標」という。
具体的には、事例の概要を入力すると過去の類似ケース(各社の報道によると、三重県のシステムには既に、約1万3000件の過去の事案データが登録されていた)が確認され、それらの中で何割が一時保護に至ったのかを示してくれるそうだ。つまり今回の39%というのは、過去同様の状況下において、およそ5回に2回保護が行われていたということになる。
もちろんこの数字が出力されたからといって、AIが「一時保護は不要だ」という指示を出したという意味ではない。三重県の一見勝之知事は、7月11日の記者会見で「AIの数値は参考にしかすぎないものであった」と発言している。あくまで人間が最終判断を下す体制となっていたわけだ。
しかし「AIシステムが一時保護の必要性を低く算出した」、そして「その結果を職員がうのみにした」という構図が描けてしまうことから、この対応は大きな注目を集め、一時は「保護率39%」というキーワードがTwitter上でトレンドとなるほどであった。
筆者はこの事件について、誰かを非難するつもりはない。虐待死という痛ましい事件が繰り返されないようにするためには、児童相談所や両親・家族に責任を押し付けるのではなく、社会が一丸となって問題解決に臨む必要があるだろう。その前提を置いた上で、AIガバナンスという観点から、この一件が起きる前にどのような改善が可能だったかを考えてみたい。
関連記事
- 「AIが神格化した世界」はディストピアか? AIの誤判定で“3万人超”の人生狂わせたオランダ政府の事例
AIによって人生を狂わされた人たちがいる。オランダ政府は、児童手当の不正受給検知にAIを活用したが、3万人超もの人たちを誤検知し、自殺者まで出した。「AIの神格化」することで起こり得るリスクについて考える。 - “AIが人間を査定”は差別につながる? 米保険会社の炎上事例から考える「AIガバナンス」
AIを本格的に業務に取り入れ、大きな効果を得たいと考える企業の数は日本でも着実に増えている。一方、コンサルティング会社のPwC Japanの調査では、日本企業がAIガバナンス(管理・統制)の点で、米国企業に後れを取っているという結果が出た。 - AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も
AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになり、一部の犯罪が悪質化している。SNS上の写真からディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行していると米FBIが注意喚起している。 - AIブームで声で人をだます犯罪も増加か 闇サイトでは音声クローンサービス「VCaaS」が台頭
AIを使って音声を合成する音声クローン技術が悪用される危険が強まっている。闇サイトでは、そうした悪用に手を貸す「VCaaS」と呼ばれるサービスも台頭しているという。 - ”ChatGPT時代”初の夏休み どうする学校のAI対策 保護者から見た文科省「AIガイドライン」の中身
文部科学省が学校教育におけるAIの利用に関して、ガイドラインを発表した。その中身を、保護者目線で検討してみたい。
Copyright © ITmedia, Inc. All Rights Reserved.