AIしくじり物語 なぜ、AIは「偏見」を抱くのか：失敗例に学ぶ（1/3 ページ）

AIを活用したい企業にとって怖いのは、従来のシステム開発や運用とは異なるリスクを抱えている点だ。大手企業であっても足をすくわれてしまうケースも珍しくない。過去の失敗例から、注意点を考えてみよう。

[小林啓倫，ITmedia]

　情報処理推進機構（IPA）の2020年度版「AI白書」によると、19年7〜9月にかけて民間企業を対象に行われたアンケートで、AIを「すでに導入している」と回答した企業は4.2％、「現在、実証実験（PoC）を行っている」と回答した企業は4.8％だった。ほぼ1年前のアンケートだが、AI活用に乗り出している企業は、まだ1割にも満たない現状が明らかになった。

　とはいえ、同じアンケートで「（AI活用に）今後も取り組む予定はない」との明確な意思を示したのは、16.4％にとどまった。残りの企業は何らかの関心を持っているわけであり、その中から具体的な取り組みに踏み切る企業も増えてくるだろう。

　そうした企業にとって怖いのは、AIが従来のシステム開発や運用とは異なるリスクを抱えている点だ。大手企業であっても足をすくわれてしまうケースも珍しくない。過去の失敗例から、AI導入に踏み切る際の注意点について考えてみよう。

写真はイメージです

アマゾンのAIはなぜ「偏見」を持ったのか

　まずはAIが「偏見」（バイアス）を持つという問題を取り上げたい。心を持たないはずの機械が、偏見にまみれた判断を下してしまう――そんなSFのような面白さがあるためか、この問題は各所で取り上げられており、耳にしたことのある方も多いだろう。そうしたケースの中で有名なものの一つ、米アマゾンの事例を紹介しよう。

　18年10月、アマゾンが社内で開発していた、とあるAIアプリケーションの運用を停止していたと報じられた。同社が14年に開発を始めたものだったが、17年中に利用を諦めたという。アマゾンといえば、いわゆる「GAFA」の一角を占める大手テクノロジー企業だ。AI活用も積極的に進めており、多くの専門家やエンジニアを雇っている。それほどの企業が、なぜ数年間も開発に取り組んできたAIを停止するまでに至ってしまったのだろうか。