　先ほどの病院の例では、なぜある患者をあるベッドに配置するのが良い判断なのか、看護師に説明するようにしたそうである。その一方で、割り当てプロセスにおいてAIが一方的に判断を下すのではなく、ベッドの割り当てを行う人間が結果に参加できるようにした。こうした「説明」と「当事者意識の醸成」によって、AIに対する信頼感を醸成したのである。

　人間に当事者意識を持ってもらうというのは、AIアプリケーションのアウトプットの品質を向上させるという点でも重要だ。いくらAIが高度化しても、ここ数年ではまだまだAIがフォローできない領域は多い。前述の通り、1度適切なAIを開発しても、その後の時間や環境の変化で不適切なアウトプットが生まれてしまう可能性もある。

　そんなときに人間がAIの判断をむやみに信じてしまうのではなく、「何かおかしい」と判断してAI管理者に連絡したり、とっさに自らの判断でAIの判断を覆す（常に無視するのではなく）ようになっていれば、AIアプリケーションによる大きな問題の発生を防ぐことができる。それにより、逆説的な話になるが、「AIを使っていても大丈夫だ」という意識が生まれ、今後のAI導入にも弾みがつくだろう。

その3：“がっかりAI”と思われないために　情報共有を忘れずに

　今後のAI導入に弾みをつけるという考えは大事なことで、「そんなの自分には関係ない」とは決して思わないでほしい。社内でAI活用をさらに拡大するため、自分が参加したプロジェクトの情報や結果、ノウハウは積極的に共有してほしい。

　筆者が関わったプロジェクトで、AIアプリケーションで業務プロセスの一部を自動化するというものがあった。単純な内容だが明確な業務量削減効果があり、また一定の設定作業が必要ということで、プロジェクトメンバーの達成感は大きかった。

　しかし上層部向けの報告会では、メンバーにとってがっかりする結果が待っていた。参加者の一部から「AI入れて成果はこれだけ？」という反応が返ってきたのである。本連載の第1回で、AI導入で何を目指すのかというゴールを明確にし、それを関係者間で共有することが求められると指摘した。それを怠ったツケが回ってきたのだ。