“がっかりAI”はなぜ生まれる？ 「作って終わり」のAIプロジェクトが失敗する理由：きょうから始めるAI活用（3/5 ページ）

[小林啓倫，ITmedia]

その2：熟練者はAIを信用しない？　AIと協働する人間のフォローを

　AI導入プロジェクトだからといって、AIの方だけ向いていれば事足りるというわけではない。実際には、それを使う「人間」をフォローしなければならない場合もある。

　筆者が翻訳者として参加した、アクセンチュアのポール・R・ドーアティ氏とH・ジェームズ・ウィルソン氏による著書「HUMAN+MACHINE 人間+マシン: AI時代の8つの融合スキル」の中に、興味深い事例が紹介されている。

　米国のある病院が、どの患者にどのベッド（病床）を割り当てるかを判断するAIアプリケーションを導入した。病院にとって、ベッドの割り当ては頭の痛い問題だ。数に限りがある一方で、入院が必要な患者はどんどん発生する。うまくスケジュールを組めばベッドの「稼働率」を上げられるものの、患者の様態が今後どうなるか、いつ退院してベッドに空きができるかを予測することは容易ではない。その結果、ベッドを効率的に活用できている病院でも、稼働率は70〜80％程度にとどまるそうだ。

　しかしこのAIは、適切な判断を行うことで、稼働率を90％台にまで上げることができるという触れ込みだった。病院側は大きな期待を持ってアプリケーションを導入したが、結局何の効果も得られなかった。

　それはなぜか。病院のマネジャーが調査したところ、原因はAIではなく、人間の側にあることが明らかになった。実際にベッドの手配を行う看護師たちは、これまで何らかのシステムに頼っていたわけではない。自らの経験と勘でベッドの割り当てを決めていたのである。そのためアプリケーションが導入され、画面上に指示が表示されても、看護師たちはAIを信用せず、これまで通りの割り当てを行っていたのだった。

　この病院だけでなく、従来人間が行っていた判断をAIに置き換える、という取り組みにチャレンジする企業は多い。例えば営業員のサポートとして、フォローすべき顧客や提案すべき商品を示すAIなどだ。しかし看護師と同様、営業員が画面に表示される提案を受け入れてくれなくては、いくら優秀なAIを開発できたとしても意味はない。これがAIだけでなく、人間もフォローしなければならない理由だ。

　ではどのようなフォローをすれば良いのか。