JR西日本カスタマーリレーションズは、労働集約型の典型ともいえるコンタクトセンターの運営を中心に業務を行っていますが、今後も継続して応対品質の維持・向上と安定継続した事業運営を実現するためには、省力化、高機能化は避けられないものと認識しています。この目指す方向に向けて生成AIを活用した業務変革を推進し、人と生成AI両輪で事業を行っていきたいと考えています。その最初のステップとして通話の要約を開始しましたが、コンタクトセンターの標準的な業務フローについても開発を考えています。
生成AIを活用するにあたり、大きく2つのリスクがあると考えています。
1点目は個人情報の管理に関することです。入力する情報に個人情報が含まれる場合には、個人情報保護法に適合するかの判断が必要となります。個人情報保護法では、対象となる個人情報がデータベース化されているか否かによって判断されており、取り扱う個人情報がデータベース化されていない個人情報(散在情報)の場合には、第三者提供に関する規制の対象外となります。
また、クラウドサービス事業提供者の契約条項によって当該外部事業者がサーバに保存された個人データを取り扱わないことや個人データを機械学習に利用しないことなどの条件が必須であると考えています。
2点目は生成AIが誤った要約や誤った回答文案を作成する可能性、いわゆる「ハルシネーション」が発生するリスクです。この点についてはプロンプトの工夫やオペレーターの会話上での工夫により事前にリスク低減した上で、最終的に人のチェックによりリスクを抑え込み、精度の高い要約結果を実現できています。
当社カスタマーリレーションズでは生成AIの使用開始に合わせ、ルールブックを作成して対応者全員に研修を行っています。
Copyright © ITmedia, Inc. All Rights Reserved.
Special
PR注目記事ランキング