「AIが決めたことだから」と責任まで丸投げする企業の危うさ 「AIの過度な擬人化」が招く“恐ろしい錯覚”とは？：働き方の見取り図（2/3 ページ）

[川上敬太郎，ITmedia]

HR領域に潜む、AIを過信するリスク

　職場において、人間とAIの関係性は業務委託に近い面があると考えます。例えば、会社が社員の給与計算を業務委託事業者に依頼した場合、計算ミスが判明して給与の遅延損害金が生じたとしても、給与支払いなどの責任は基本的に業務委託事業者ではなく、社員が所属する会社が負います。ただし、別途会社から業務委託事業者に対して損害賠償請求をする可能性はあります。

　同様に、AIに任せてミスが判明した場合も、責任を負うのは会社です。相手が業務委託事業者であれば損害賠償請求できる可能性がありますが、AIに対しては請求できません。

　業績が振るわずリストラを敢行する場合、退職勧奨候補者をAIにリストアップさせることもあり得ます。AIが職場内で当たり前に使われるようになるほど「AIによる選択だから」という言い分が一定の納得感を持つ空気が生まれるかもしれません。

　しかし、リストラされた社員にとっては人生の一大事です。AIに任せた結果が人間に与える影響力が大きいほど、AIが作成したリストを承認した者など、職場側の人間が負うべき責任もまた重くなります。

AIが出した結論を承認する人間には、重い責任が課される（提供：ゲッティイメージズ）

　注意が必要なのは、AIが人間の理解を超える答えを出した場合です。プロセスの理屈が分からなかったとしても、過去の実績でAIの正答率の方が人間よりも高かったなどの理由が伴えば、AIの回答に無条件に従うという事態は起こり得ます。

　売り上げを高めるためのマーケティング施策や投資判断など、あらゆる場面で同様の事態が想定されます。AIの回答に従った結果、会社に大きな損害が出たり、人権侵害に関わるような事態が発生したりした際に「AIが言った通りにしたのだから仕方ない」で済まされるものではありません。