「AIがそう言ったのでやりました」――もし部下が勝手に行動したら？ 業務上のAI活用という大きなリスク（1/3 ページ）

[村上ゆかり，ITmedia]

著者プロフィール：村上 ゆかり

コラムニスト。1児の母。リクルートにて人材業界で法人営業、面接、面談フォロー実績数百件を経験。人事役員などと伴走しさまざまな人事課題に向き合う。広告業界にて5000人集客イベント企画＆事務局経験、福祉業界では人事管理職として新卒及び中途採用を1人で設計から実務まで担当し年間約120人採用を達成。国会議員秘書約4年半を経験後、フリーで活動を始め、執筆のほか企業の人事採用コンサルタントなどを手掛ける。アンガーマネジメント講師。

　プロ野球巨人の阿部慎之助前監督が5月25日、娘への暴行容疑で警視庁により逮捕され、翌26日に監督を辞任したというニュースは球界のみならず社会全体に大きな衝撃を与えた。

　世間が驚いたのは「娘による生成AI（ChatGPT）への相談、父親の現行犯逮捕と監督辞任にまで発展した」という事件の経緯にある。

生成AIへの相談が思わぬ事態へと発展した（ゲッティイメージズ、以下同）

　「AIのアドバイスに従ってそのまま行動を起こす」という構図は、今や珍しいものではなくなった。家庭内に留まらず、恋愛の場面でも、学校でも職場でも全く同じことが起きうるし、同様にリスクもはらんでいる。

　職場においてはどんなリスクがあり、どう対策すべきなのか。阿部監督の騒動を機に、現代における生成AIとの向き合い方を整理してみたい。

職場で起こりうる3つのリスク

　社員が職場や仕事の内容について生成AIを相談相手として利用することは、主に3つのリスクにつながる。

コミュニケーションの「AI代行」による組織の分断

　阿部前監督の事例では、そもそも娘が父親からの暴行についてAI（ChatGPT）に相談したところ、児童相談所への通報（相談）を促されたという背景がある。しかし、その後、相談者である娘が想定していなかった「児童相談所による警察への通報」へと発展して逮捕・辞任に至っており、この認識のギャップが騒動を大きくした一因といえる。

　おそらくAIは「児相へ相談すると、本人が意図しなくても警察へ通報される可能性がある」ことを娘に伝えていなかったのではないか。現に、長女の手紙でも「自分の意向が十分に聞かれることなく警察に通報された」との認識が示されている。

　児童相談所は法律に基づき、相談内容によって緊急性が高いと判断された場合、警察と連携・通報することがある。長女が児相に虐待や家庭内暴力関連に関する相談をした時点で、警察へ通報する可能性は十分にあったわけだ。

　もしAIがこれらの事情を一切触れずに「相談を」と促したならば、情報提供として不完全だったといえる。これは「AIが完全に間違っていた」というより、「AIが提供するアドバイスは文脈・手続きのリスク・相談者の本当の希望を十分にくみ取れない」という、AIの限界によるものである。

　組織内のコミュニケーションにおいても同様のリスクがある。AIに「相談」や「返信」を委ねる場合、出力された内容の背後にある制度・人間関係・意図の文脈を自分で補完・確認する意識が無ければ、正しい回答は導かれない。この論点を無視してAIの回答通りにコミュニケーションを続けてしまうと、徐々に良好な人間関係が崩れていく可能性がある。