「AIがそう言ったのでやりました」――もし部下が勝手に行動したら？ 業務上のAI活用という大きなリスク（2/3 ページ）

[村上ゆかり，ITmedia]

「迎合モード」による、認知のゆがみ

　AIはユーザーに同調しやすい「シコファンシー（追従性）」という特性がある。そのため、社員がAIに上司や同僚などに対する愚痴をこぼした際、部下からの情報をすべて事実とみなして全肯定する傾向があるのだ。その結果、相手を「ハラスメントだ」などと認定し、告発を促すかもしれない。

　AIに共感・同調され続けることで「自分は100％被害者であり、上司が100％悪だ」という認知のゆがみが生まれる可能性がある。結果として職場内で「扱いづらい社員」と思われ孤立してしまうかもしれない。

AIに迎合され続けることによって、徐々に認知がゆがんでいく

プロンプト情報漏洩リスク

　会社に最も打撃を与える可能性があるのがこの情報漏えいリスクだ。AIに関してリテラシーの低い社員がトラブル相談などの際に、AIへ「個人情報や顧客情報、社内の機密情報をコピペ入力」してしまうリスクである。

　多くの対話型生成AIの初期設定では、入力されたプロンプト（指示文）がそのままAIの学習ソースとして再利用されるようになっている。

　社外秘のプロジェクト名、顧客の個人情報、あるいは上司や同僚の実名をそのまま打ち込むと、重大な機密情報が社外へ流出する可能性がある。これは、企業の社会的信用を一発で失墜させうる、極めて深刻な脅威だ。問題が発覚すれば当然、機密情報を入力した社員は懲戒処分を受ける可能性もある。

　つまり企業にとってはもちろん、AIに相談した社員本人にとっても十分に大きなリスクとなるということだ。AIを使用する全ての人は、AIの仕様や特性を理解しないまま安易に信じすぎない姿勢が求められる。