チャットbotだけが生成AI活用ではない 富士通が見出した「生成AI活用」の近道

ChatGPTなどの汎用的な対話型生成AIの登場によって、多くの企業が業務における生成AIの有用性に確証を得た。しかし、さらに高度な活用となると壁に突き当たる企業が多い。自社のシステムや業務に最適な形で生成AIを適用するにはどうすればよいだろうか。

PR／ITmedia

PR

　「ChatGPT」や「Microsoft Copilot」などの対話型生成AIの登場によって、多くの企業が業務における生成AIの有用性を実感している。しかし、より高度に活用しようという段階で壁に突き当たるケースも多い。

　生成AIを社内のさまざまなシステムと連携させて業務に組み込むには、用途に応じたカスタマイズが欠かせない。社内に蓄積された大量のドキュメント、画像、映像などの非構造化データを取り込み、生成AIの推論やコンテンツ生成に活用する仕組みも必要だ。業務フローの見直しや改善も不可欠となる。

　生成AIを導入する上で必要な仕組みを、日本企業はどのように整えればいいのだろうか。“生成AIブーム”の前、第3次AIブームの草創期からAIの研究に取り組み、自社や顧客のAI活用を支援してきた富士通に「最適解」を聞いた。

生成AIのより高度な活用を阻む障壁

　ディープラーニングが注目を集めて第3次AIブームが始まったころからAIソリューションの開発に取り組んできた富士通の濱田祐介氏（クロスインダストリーソリューション事業本部 DI Platform事業部 AI Transformation室 マネージャー）は日本企業の動向を次のように話す。

　「簡単なテーマで生成AIのPoC（概念実証）を実施して好感触を得たものの、自社のビジネスにどのように組み込み、どう活用するかを検討する段階で『アプローチ方法が分からない』『経営層にROI（投資対効果）を説明できない』と足踏みしてしまうケースが多いようです。生成AIをビジネスに組み込んで効果を出すためには業務の変革が必要であり、それも含めた導入の難しさがハードルの一つになっています」

富士通の濱田祐介氏

　大規模言語モデル（LLM）や周辺技術がかつてないスピードで進化してユーザーが情報を追うことも難しくなってきている中で、生成AIサービスの選定に当たっては「既存の業務やシステムに合わせて導入できる親和性と柔軟性を備えているかが重要になってきた」と濱田氏は考える。具体的なポイントとして濱田氏は次の3点を挙げた。

• 既存のシステムや外部サービスと自在に連携して機能を拡張できる
• 業務フローに合わせて生成AIの処理をカスタマイズできる
• 蓄積した書類や電子文書の情報を自社固有の知識として生成AIが活用できる

企業利用に適した生成AI「Fujitsu Kozuchi」

　前述した3点を実現する仕組みとして、富士通は「Fujitsu Kozuchi」を提供している。Fujitsu Kozuchiが対応しているLLMは「GPT」「Gemini」「Claude」などで、富士通独自の日本語対応LLMである「Takane」も利用可能だ。これに企業固有の情報を外部ソースとして付加できる検索拡張生成（RAG）といった技術を組み合わせることで、非構造化データの活用を強化している。

各企業の状況に合わせた生成AIの活用ができる（提供：富士通）

　Fujitsu Kozuchiを業務に組み込むための専用アプリケーションやAPI、対話用インタフェースが用意されており、生成AI監査技術を利用した独自のハルシネーション判定機能も備えている。用途に応じてLLMを切り替えて利用できる柔軟性もある。オンプレミス環境やインターネットに接続できないシステムであっても導入可能だ。

　「お客さまの業務に最適な生成AIを適用できるように、Fujitsu Kozuchiは高い柔軟性を備えています。他のシステムと連携させるための拡張性やカスタマイズ性があり、RAGを活用することで既存の文書などを簡単に取り込めるため、短期間で業務に合った生成AI環境を整えられます」

豊富なAPIと処理テンプレートで最適な生成AI活用を実現

　Fujitsu Kozuchiには50以上のAPIが用意されており、APIを通じてKozuchi Generative AIで処理を実行できる。

　「生成AIの処理機能を利用するため、Fujitsu KozuchiはさまざまなAPIを用意しており、それらを使えば既存システムに生成AIの機能を簡単に追加できます。使い慣れたシステムで生成AIによる業務変革を進められるのです」

　高いカスタマイズ性を実現しているのは、「Flow」（フロー）と呼ばれる処理テンプレートだ。

　「Fujitsu Kozuchiは、お客さまが生成AI処理のロジックを自由に組むことが可能です。ロジックの構成要素となる細かな部品が用意されており、ビジュアルエディタで部品を組み合わせることで複雑なロジックをつくることができます」

　プロンプトエンジニアリングやファインチューニングをすることなく、部品の組み合わせによって企業独自の生成AIツールを作成できる点がポイントだ。コーディングに慣れているユーザーは、JSON形式の設定ファイルで部品の組み合わせを定義することもできる。

　既存文書を活用するための仕組みはRAGによって実現している。従来のRAGには大規模なデータを正確に参照できないという課題があったが、Fujitsu Kozuchiは2つのRAGによってこの課題を解決している。

　1つ目は富士通研究所がRAGを独自に発展させた「ナレッジグラフ拡張RAG」だ。企業の社内規定や法令、マニュアル、映像などの膨大な非構造化データを体系的に整理したナレッジグラフを自動生成する。これを使うことでLLMが参照できるデータ量は従来の数十万〜数百万トークンから1000万トークン以上に増加した上に、ナレッジグラフによってトークン間の関係を正確に指示できるようになり、処理精度が大幅に向上した。

　2つ目はパートナー企業であるシナモンの「Super RAG」。「Super RAGは手書きも含めた図表を正確に読み込めるだけでなく、『Microsoft PowerPoint』や『Microsoft Word』（以下、Word）のファイルのタイトルや本文、キャプションといった構造も正しく理解して処理できます。金融業界に残る大量の手書き文書や製造業の膨大なマニュアルおよび設計図も正しく理解し、生成AIのナレッジとして活用できます」

膨大な非構造化データから必要な情報を抽出できる（提供：富士通）

　富士通は、顧客がFujitsu Kozuchiを活用して業務を変革するための取り組みを企画段階から支援する。富士通グループのコンサルティング会社Ridgelinez（リッジラインズ）と共に、生成AIの活用方法の検討といった企画から、業務への組み込み、効果の予測、導入、活用支援までサポートしている。本格導入の前段として小規模に試してみたい企業のために、Fujitsu Kozuchiを低コストに試用できるクローズドでセキュアな環境も用意している。

　Fujitsu KozuchiはMicrosoftとのパートナーシップの下、「Microsoft Azure」（以下、Azure）をベースに開発されている。Microsoftのエンジニアと緊密に連携することでAzureの最新技術をいち早く取り入れて機能強化を図っている。Azureに構築した既存システムとの連携が容易な点も特徴だ。

システム活用アシスタントやQ＆Aサイト、ナレッジベースで活用

　Fujitsu Kozuchiの汎用（はんよう）的な使い方の一つとして、濱田氏は「業務システムを活用する際のアシスタント」を挙げる。

　業務システムは高機能になったがユーザーの理解が追い付かず、全機能を把握して活用できている人は少数にとどまるのが実情だ。そこで、業務システムとFujitsu Kozuchiを連携させ、対話型のインタフェースでユーザーのシステム活用を支援するアシスタントを組み込むことで、業務システムは効果を発揮する。

　ユーザーからの問い合わせが多いシステムの場合、チャットbotがユーザーの質問に答えるQ＆Aサイトを作ることができる。「当社では社内導入したばかりのERPについての問い合わせが急増したことから、Fujitsu Kozuchiを使ってQ＆Aサイトを構築しました。よくある質問についてはQ＆Aの内容を学習したチャットbotとのやりとりを基にユーザーが自己解決できる仕組みをつくり、全社で運用しています」

　社内のさまざまな文書をFujitsu Kozuchiに取り込み、ナレッジベースとして活用することもできる。PDFやWord、「Microsoft Excel」（以下、Excel）などで蓄積された非構造化データを基にナレッジベースを構築する場合、データ統合などで多くの期間とコストが必要となる。Fujitsu Kozuchiならば、ナレッジグラフ拡張RAGを使って短期間で精度の高いナレッジベースを作ることが可能だ。ある企業では、Fujitsu Kozuchiで構築したナレッジベースによって、従来は1件当たり1時間かかっていた問い合わせ対応作業を15分に短縮した。

契約書やシステム設計の整合性検証でも有効　API公開で市民開発も促進

　契約書のレビューや法令準拠、システム設計の整合性チェックといったデータ照合のニーズも高い。大規模システムの開発ではさまざまなITインフラとソフトウェアを複雑に組み合わせてシステムを構築するため、膨大な設計書を作る必要がある。全ての設計書の整合性が取れているかどうかを人が把握するのが難しい場合もあるだろう。

　「システムが複雑化すると、設計書のちょっとした不整合でもトラブルが生じる恐れがあります。設計書を突き合わせて確認するといった細心の気配りが必要で、そうしたチェックを生成AIにさせることでトラブルと手間を減らせます。既に大手金融機関や通信事業者で大規模システム開発の設計書レビューに導入されている事例もあります。ニーズが多いユースケースについては、導入をスムーズにするためのアドオン画面やAPIをテンプレートとして用意しています」

生成AIによる設計レビューでトラブルと手間を削減（提供：富士通）

　富士通は、従業員にITエンジニアが多いという特徴を生かした活用も進めている。Fujitsu KozuchiのAPIを社内に公開することで、業務で利用しているアプリケーションに多くの従業員が自主的に生成AIを組み込み、生産性を向上させているのだ。生成AIを呼び出すExcel関数を作り、Excelユーザーなら誰でも生成AIを使える仕組みをつくった従業員も存在する。

　「APIの公開は生成AIによる市民開発の促進策としても有効です。こうした草の根の動きから新たな活用アイデアやソリューションが生まれてくることも期待しています」

人に代わって自律処理をするAIエージェントの開発に注力

　富士通は、企業のさまざまな生成AI活用ニーズに対応するためにFujitsu Kozuchiの機能強化も精力的に続けている。

　その一例が「AIエージェント」だ。生成AIが人に代わって自律的に業務を処理するものであり、2024年には「ビジネス会議エージェント」というサービスをリリースした。商談などの場にAIエージェントが参加して会話の内容を自律的に分析して商品の価格や在庫の照会、売上推移の分析など、何らかのアクションが必要な事柄を自律的に実行する。今後は他のシステムと連携するためのコネクターを充実させるとともに、生産管理や法務など、特定の業務に特化したAIエージェントを順次リリースする予定だ。

　ChatGPTなどの手軽に利用できるサービスによって生成AIの有効性は多くの企業に知れ渡った。だが、これを企業が高度に活用するためには「システム連携やカスタマイズ、文書取り込みなどにおいて高い柔軟性を備えた仕組みが必要」と濱田氏は力を込める。

　「Fujitsu Kozuchiは、お客さまが自社のシステムや業務に合わせて生成AIを組み込むための高い柔軟性と豊富な機能を備えています。生成AIの効果を最大化するための業務変革も富士通グループとして一気通貫で支援しています。生成AIの活用をさらに高度化したいとお考えの際は、まず私たちにご相談ください」