ChatGPTの使い方は先進企業に学べ パナソニック コネクトのAI活用戦略から探る

OpenAIの「ChatGPT」をベースにしたAIアシスタントサービス「ConnectAI」を開発し、社内の業務改革を推進するパナソニック コネクト。2023年9月には、AIが自社固有の情報を扱えるようにするための開発・検証作業を新たにスタートさせた。どのような追加開発をしているのだろうか。

[吉村哲樹，ITmedia]

　「ChatGPT」などの大規模言語モデル（LLM）は技術者や専門家のみならず一般ユーザーが直接気軽に使いこなせる点で急速に普及しつつある。一方で、業務での利用を考える場合には、機密情報の漏えいや著作権侵害のリスクなど検討すべきことが多く、導入には慎重さが求められる。

　さらに、これらのモデルは一般的な情報やコンテンツに基づいて学習しているため、自社固有の情報まで考慮して回答させることが難しく、ニーズが高い一方でその仕組みのベストプラクティスは確立されていない。現時点ではChatGPTを活用する価値とリスク、限界を天びんにかけながら、業務で活用する方法やルールを慎重に見定めようとしている企業が多いようだ。

　そうした中これらのChatGPTの課題にアプローチしている企業がある。パナソニックグループにおいて法人向けの製品やサービス、ソリューションの提供を行っているパナソニック コネクト（以下、パナソニック コネクト）は、2022年11月にChatGPTが公開されたわずか3カ月後に、「GPT3.5」をベースにしたAIアシスタントサービス「ConnectAI」を開発して社内の従業員全員が利用できるようにした。2023年4月には「GPT-4」をベースにした機能を追加実装している。

　ConnectAIの開発プロジェクトを率いる向野孔己氏（IT・デジタル推進本部 戦略企画部 シニアマネジャー）に、スピード導入の背景にどのような議論があったのか、またChatGPTのリスクや限界にどのようにアプローチしているのかを、最新の検証実験の結果も含めて聞いた。

生成AIブームに先立つ2020年にパナソニック コネクトがしていたこと

パナソニック コネクト　向野孔己氏

　ChatGPTがリリースされた数カ月後に早くもその全社利用を始めたパナソニック コネクト。同社がこれだけ早くChatGPTの業務利用に踏み出せた背景には、向野氏が2020年ごろから、当時OpenAIが公開していた大規模言語モデル「GPT-3」に着目していたことがある。

　「GPT-3はエンジニアの間ではかなり注目されていましたが、当時はまだ日本語対応も不十分でしたし、インフラ環境もあまり整っていませんでした。しかし2022年にMicrosoftが「Azure OpenAI Service」を公開し、ChatGPTが一気に身近な存在になったことから、業務への適用を本格的に検討することにしました」

　大規模言語モデルの最大の特徴は、「言語を高度なレベルで扱える」ことで、広範な業務に影響を与えられることだ。特に、これまでシステム化が難しかった「非定型業務」の省力化・自動化の道がひらけるのではないかと向野氏は考えたという。

　「多くの非定型業務を分解してみると『情報収集』『情報整理』『ドラフト作成』『仕上げ（判断）』の4ステップで構成されています。大規模言語モデルを使えばこのうちの情報収集からドラフトまでのプロセスは自動化できるのではと考えました。そうすれば、人は最後の一番重要な仕上げや判断の仕事により専念できるようになります」

　仕組みを業務アプリケーションとして提供し、活用をバックアップすることで従業員のAI（人工知能）スキルの向上を図るとともに、無断でChatGPTを利用することによるリスクも回避できる。そこで同社は2022年10月、正式にConnectAIの開発プロジェクトを立ち上げることになった。

Azure OpenAI Serviceで情報漏えいや不適切な利用のリスクを排除

　ConnectAIの開発には、思ったほどのコストや労力は掛からなかったという。全ての開発作業を内製したこともあり、GPT-3.5を使って実装した初代バージョンはわずか1カ月間、工数にして1人月程度で完成・リリースまでこぎ着けた。

　AIの機能自体はAzure OpenAI ServiceのAPIを呼び出して利用している。Azure OpenAI Serviceを採用した理由の1つとして、向野氏は「セキュリティ」を挙げる。

　「当時からChatGPTに入力した情報の漏えいリスクが指摘されていました。その点Azure OpenAI Serviceは『法人ユーザーが入力した情報はAIモデルの学習には使わない』と明言していました。またプラットフォームを全て『Microsoft Azure』で完結できるため、その点でも情報漏えいリスクを最小限に抑えられると考えました」（向野氏）

　ユーザーによる不適正な利用を防ぐために、入力されたプロンプトの内容を「OpenAIのモデレーションAPI」「Azure OpenAI Serviceのコンテンツフィルター」のそれぞれの機能を使ってチェックし、ここで不適切だと判断されたプロンプトの内容をさらに人の目で見て判断するようにしている。この仕組みを通じてこれまで84件のアラートが上がったものの、人の目で確認した結果「重大な問題ではない」と判断されており、実質的に不適切な利用の検知は今のところゼロだという。

　現時点ではユーザーはGPT3.5とGPT-4から好きな方を選んで利用できる。「まずはChatGPTを使って、もしそれでいい回答が得られなかった場合に限りGPT-4を使ってください」とユーザーには案内している。その理由について向野氏は「GPT-4はChatGPTに比べてかなりコストがかさみ、場合によっては約10倍のコスト差が生じるケースもあります。また回答速度もGPT-4はChatGPTと比べてかなり遅いため、ユーザーには『デフォルトはChatGPTです』『まずはChatGPTを使ってください』とお願いしています」と説明する。

AIから良質な回答を引き出すためのプロンプト

　ユーザーがより使いやすくかつ良質な回答をAIから引き出せるよう、プロンプトのサンプルをあらかじめ用意するという工夫もしている。「特定の製品の事例を調べる」「ビジネスレポートの作成を頼む」「プログラムコードの生成を頼む」といったように、15のジャンルごとに典型的なプロンプトの例文を提示しており、ユーザーはこの内容の一部を自身の質問内容に沿って修正するだけで適切なプロンプトを生成できるようになっている。

　「プロンプトエンジニアリングについてユーザーがわざわざ学ばなくとも、用意された例文を一部修正するだけで誰でもある程度最適化されたプロンプトを生成して、手軽に生成AIを使いこなせるよう工夫を凝らしています」（向野氏）

図　プロンプトの例を用意（出典：パナソニック コネクトの提供資料）

予想を上回る利用率、従業員からの評価は？

　向野氏によれば、現在同社内では開発陣の予想をはるかに上回るスピードで活用が進んでいるという。

　「ユーザーには一日当たり1000回程度使われればいいかなと思っていましたが、実際には5000回以上使われています。継続的に利用してもらえるか少し不安だったのですが、ふたを開けてみれば利用率はずっと同じ水準をキープしています」

　従業員からの評価も上々だ。同社は、ConnectAIを使ってAIからの回答を受け取った際、回答内容の品質を5点満点で評価させているが、その平均点は、サービス提供を開始して3カ月間がたった時点で3.6ポイント。GPT-3からChatGPT、GPT-4とAIモデルが新しくなるにつれ評価ポイントも上がった。GPT-4では平均4.1ポイントと高い評価を受けている。

　効率化の効果が大きく表れているケースもある。プログラミング作業の事前調査にかかっていた時間が3時間から5分間に短縮され、社内広報業務における約1500件のアンケート結果分析作業は9時間から6分間に短縮された。

自社固有の情報をChatGPTで扱うための追加開発の中身とは？

　一方、ある程度運用を続けるうちに幾つかの課題も見えてきた。その代表的なものが、「自社固有の質問」には答えられないという点だ。ChatGPTはインターネットに広く流布しているコンテンツを使って学習されたAIモデルであるため、自社が提供する製品・サービスに関する詳しい情報や、自社内だけで流通している社内情報などについては学習しておらず、自社固有の質問を投げかけてもなかなか思うように答えてはくれない。

　そこで2023年6月より、ConnectAIで自社固有の情報を扱えるようにするための開発・検証作業を新たにスタートさせた。具体的には、ChatGPTやGPT-4のモデル自体に一切手を加えず、別のデータベースに自社のプロフィールや製品・サービスなどに関する情報を格納する。その上で、ユーザーが入力したプロンプトの中に自社固有のトピックが含まれていた場合にはデータベースの中から該当する情報を検索・抽出し、プロンプトにその文言を追加した上でChatGPTやGPT-4に受け渡す。ChatGPTやGPT-4はこの追加情報を参考にすることで、適切な回答を返せるようになる。

　この自社データの保持と検索の仕組みには、Azure OpenAI Serviceと同じくMicrosoft Azureのクラウドサービスとして提供される「Azure Cognitive Search」を採用した。またプロンプトの文意を理解した上で、より検索の精度を高められるよう「セマンティック検索」の機能を活用している。

　ChatGPTやGPT-4のモデルに自社情報を直接学習させる「ファインチューニング」の手法でも、確かに自社固有の情報を扱えるようにはなる。しかし「ファインチューニングは時間やコストがかかり、自社データの頻繁なデータ更新が難しくなるためセマンティック検索の手法を採った」（向野氏）という。

　さらにはセマンティック検索に加えて、文字情報をベクトル化した上で検索する技術も組みわせた「ハイブリッド検索」の手法も取り入れており、ユーザーがプロンプトを入力するとセマンティック検索とハイブリッド検索のどちらかがランダムで適用される仕組みになっている。

　これら一連の新たな仕組みは、2023年9月に1カ月間かけて本番環境で運用した後、その有効性を検証した。「セマンティック検索とハイブリッド検索のどちらがより優れた回答を返したか」という点について、向野氏は次のように説明する。

　「9月の試験運用の結果、セマンティック検索とハイブリッド検索で決定的な差は見られなかったが、ここで得た気付きを、今後の業務適応への検討に生かしていきたいと考えています」

図　セマンティック検索の仕組み（出典：パナソニック コネクトの提供資料）

将来的には個々人の職種・役割に応じて回答してくれるAIを

　ConnectAIの運用の中で見えてきた別の課題として、「回答の正確性を確保できない」というものもあった。この課題を解決する上でも、自社固有の情報を別のデータベースで管理する手法は有効だったという。

　「まずは外部に公開しているWebサイトに掲載されている自社情報や、プレスリリースの情報などをデータベース化して、ChatGPTおよびGPT-4と組み合わせて運用することにしました。自社情報のデータベースを自分たちで管理できれば、その情報の引用元であるWebページのURLも回答と合わせて提示できます。ユーザー自身がそのURLをたどることで回答の正確性を検証できるようになります」（向野氏）

　同社では次の段階として、外部に公開していない社外秘情報もデータベース化し、ChatGPTやGPT-4と組み合わせて運用することを計画している。具体的には、カスタマーサポート部門に寄せられた問い合わせとその回答の内容を、個人情報を取り除いて匿名化した上でデータベース化することを検討している。顧客の問い合わせに対して返答するメールの文面作成などを生成AIで自動化することを目指す。

　さらにその先には、従業員一人一人の職種や役職、役割などを考慮した回答を返してくれる「個人特化AI」の実現まで視野に入れているという。

　「各従業員の所属部署や役職に応じて参照できるデータの種類を変えたり、データベースにアクセスできる範囲を制御したりするなどして、その人に最も適した回答を返す仕組みを検討していきたいと考えています。現時点ではまだ具体的な方法が見えているわけではありませんが、このようなニーズに応えてくれる技術は近いうちに必ず登場すると思います。今後も最新の技術動向にしっかりアンテナを張り続けていきたいと思います」（向野氏）

図　今後のAI活用戦略（出典：パナソニック コネクトの提供資料）