「そのプロンプト、危険かも？」 生成AIの社内利用に潜む“落とし穴”とは（3/3 ページ）

国内外ですでに発生しているさまざまなAI関連トラブルを具体的に紹介しながら、企業が今すぐ整備すべき対策や、ガイドライン策定の考え方について、解説していきます。

[大杉春子，ITmedia]

明日から始められる3つのステップ

　ここまで、国内外のトラブル事例やガイドラインの要点を整理してきました。

　とはいえ、「じゃあ自社では何から着手すればいいのか？」という問いに直面している方も多いのではないでしょうか。

　ここでは、筆者が実際に企業支援を行う中で成果が出ている“現場で実装しやすい”対策を、シンプルにご紹介します。

（1）AIの「使いどころ」と「NG情報」を決めておく

　どんな業務にAIを使ってよくて、どんな情報は入力してはいけないのか。これを最初に決めておくだけで、現場の混乱や誤った使い方を大きく防げます。

例えば：

• 活用OKな業務例：プレスリリースの草案、社内報のアイデア出し、Q&Aの自動生成など
• NG情報例：個人情報、開発中の製品情報、取引先との契約条件など

　これらを社内ポータルに共有するだけでも、大きなリスク対策になります。

（2）出力結果は「必ず人が確認する」ことをルールに

　AIの文章は“たたき台”としては便利ですが、そのまま外に出すのは危険です。

　必ず人間の目でチェックし、必要に応じて修正しましょう。

　メール本文やSNS投稿、ニュースリリースの草案などは、「AIが書いたからこそ」間違いが起こる可能性があると意識することが大切です。

（3）「AIを使ったことを知らせるべき場面」を決める

　FAQや自社メディアの記事、広告クリエイティブなど、AIが作った内容をそのまま使う場合は、必要に応じて「これはAIで作成しました」と明示するルールを定めておきましょう。

　どの場面で開示するかは、業界や社内の方針に応じて判断すべきですが、少なくともルールが何もない状態は避けるべきです。

ルールは“つくって終わり”じゃない──定着・運用の工夫

　著者は、現在複数の企業でAI活用支援やリスクマネジメントの伴走支援を行っています。そこで痛感するのは、「完璧なガイドラインを最初から作ることは不可能」という事実です。

　むしろ、まずは最低限のルールで試しに運用し、数カ月ごとにフィードバックを反映しながら改善していくことこそが、現実的で持続可能なアプローチです。

では、どうすればルールを現場に根づかせ、継続的に改善していけるのでしょうか？

“完璧なルール”を目指さず、まずは走りながら整える

　AIの進化は想像以上に速く、今日の正解が明日には変わっていることも、めずらしくありません。そのため、「ガイドラインは一度つくったら終わり」ではなく、むしろ“暫定版”として始め、定期的に見直していく方が現実的です。

例えば：

• ガイドラインを四半期に一度アップデート
• 現場からのフィードバックを反映
• 最新の事例やトレンドを踏まえた更新

　というように、小さく始めて柔軟に対応できる体制を作ることが、長期的な運用につながります。

“使ってみた”を歓迎し、失敗から学ぶ文化を

　現場でのAI活用が進む企業の共通点は、「使ってみること」自体に対して寛容であることです。もちろん、トラブルが起きたときの対応体制は必要ですが、過度に制限すると現場の創造性や効率化の芽を摘んでしまいます。

　私も取材対応の準備で、AIに下調べをさせたところ、引用情報の出典が誤っていてヒヤリとした経験があります。でもその後、一次情報に立ち戻る体制を社内で再構築し、結果として情報管理のレベルが上がった、ということに繋がりました。

　「AIでの失敗＝悪」ではなく、「改善の機会」として捉える視点が、組織に健全な試行錯誤を促します。

「ルールは現場のためにある」という合意をつくる

　最後に大事なのは、ルールやガイドラインが「現場を縛るため」ではなく、「現場を守るため」にあるという共通認識です。

こうした共通認識を育てるために、次のような取り組みが有効です。

• 作成段階から現場メンバーの声を反映させる
• 成果事例を社内で共有し、「うまく使った人」が評価される空気をつくる
• 情報セキュリティ部門や広報部門との連携を強化する

　ルールは、現場に根づいて初めて力を発揮します。そしてその定着を促すのは、仕組みだけでなく、「これは自分たちの業務を前に進めるための道具だ」という納得感なのです。

著者紹介：大杉春子（おおすぎ・はるこ）

レイザー代表取締役／RCIJ代表理事

コミュニケーション戦略アドバイザーとしてPR戦略の企画から危機管理広報まで、企業・行政のブランド価値向上を包括的に支援。

日本において唯一、コミュニケーション戦略におけるリスク管理に特化したカリキュラムを展開する日本リスクコミュニケーション協会（RCIJ）を2020年に設立。

上場企業や防衛省での豊富な実績を持つ。