立正大、“データサイエンス昔話”記事を非公開に　「オオカミの悪事を事前に予測し逮捕」に批判相次ぐ　大学の意図は

公開 2022年03月30日 07時35分

著者

谷井将人

[ITmedia]

印刷する

　立正大学データサイエンス学部が公開していた「データサイエンティスト赤ずきん」という記事が「表情や行動から犯罪者予備軍を検知している」として、3月24日からTwitterで話題になっている。立正大学は28日までに記事を非公開にした。

「データサイエンティスト赤ずきん」の記事　「データサイエンスでもそこまでできないのでは」との指摘もある（魚拓サービス「Archive.today」より）

　日本の昔話を題材にデータサイエンスの効果をアピールするシリーズ記事の一つ。問題になった記事では、赤ずきんが監視カメラの映像から顔識別システムで不審な表情や行動パターンをとっている人物（オオカミ）を特定。犯行予想日に待ち伏せし、オオカミが人を飲み込む前に逮捕する――という内容が描かれている。

家屋侵入後、傷害未遂の段階で逮捕。赤ずきんは功績を評価され保安官に任命された。個人を特定できるデータにアクセスして分析している段階では保安官などの立場ではなかったとみられる

　Twitterでは「サイエンスが人間と社会の自由を狭めてしまっては本末転倒」「犯罪者みたいな表情をしただけで現行犯逮捕って」など批判の声が上がっていた。

　立正大学に非公開化の経緯について尋ねたところ「当該ページは広告としての役割を終え、年度末を機に切替を予定していたが、SNS上で所属学生や教員に言及されている発言も出てきたため、繰り上げて対応した」と説明した。

　批判に対しては「Twitterなどで議論されている内容の一部は確認している。一つ一つの意見に対して否定・回答などはしないが、いただいた意見については今後検証し、本学の広報活動に生かしていきたい」と回答を濁した。

　顔識別技術やデータサイエンス、AIなどを活用した犯罪者予測技術を巡っては、犯罪を犯す気がない人でも見た目や行動の傾向などから犯罪者予備軍と認識され、権利や行動が制限される恐れがある他、データの偏りにより人種差別的な判断結果が出るなどの問題が指摘されている。

　2020年6月には米IBMが人種平等の観点から顔識別事業を撤退。当時の提言でIBMは、AIを法執行機関で使う際にはシステムに偏見が反映されていないことを確実にするために徹底的に吟味するべきだと主張している。

　日本では19年8月、リクルートキャリアが学生の内定辞退率を本人の十分な同意なしに予測し企業に販売していたとして大きな問題になった。日本においてサードパーティーCookieを使ったデータ取得が問題視されるきっかけの一つとなった事件だが、閲覧データなどを基に行動を予測分析する「プロファイリング」も論点になった。

印刷する