ITmedia AI＋
生成AI
「ここは人間も失敗するしAIでもいいのでは」――生成AIの業務導入で外せない“幻覚”との付き合い方

「ここは人間も失敗するしAIでもいいのでは」――生成AIの業務導入で外せない“幻覚”との付き合い方（1/3 ページ）

公開 2024年09月30日 12時14分

更新 2024年09月30日 14時22分

著者

斎藤健二

[ITmedia]

印刷する

　ChatGPTの登場から1年以上が経過し、生成AIへの期待は膨らむ一方だ。しかし、その実用性や具体的な活用方法を巡り、懐疑的な見方も広がっている。「幻滅期に入った」との声すら聞かれる中、金融業界では実業務に活用する動きが本格化している。

米Gartnerはマルチモーダル生成AIなどが黎明期にある一方で、「大規模言語モデル（LLM）」自体は、「過度な期待のピーク期」を超え、「幻滅期」に入りつつあると見ている（米Gartnerが9月10日に発表した「生成AIのハイプ・サイクル：2024年」より）

　アマゾンウェブサービスジャパン（AWS）金融事業開発本部長の飯田哲夫氏は、業界の最新動向を次のように分析する。「生成AIの実装は、もはやPoC（概念実証）の段階を超えた。既存の業務アプリケーションに組み込み、実際の製品やサービスとして提供する段階に入っている。エンドユーザーは生成AIかどうかを意識せずに使っていく世界になる」

　一方で、金融業界のようなミスが許されずコンプライアンスが厳しい業界では、生成AI導入には課題も多い。特に懸念されるのが生成AIの出力における「ハルシネーション（幻覚）」と呼ばれる現象だ。

　金融機関のような厳密さが求められる業界で、このハルシネーションをどう扱うべきか。完璧を求めすぎれば導入が進まず、逆に緩すぎれば重大なミスにつながりかねない。保険金支払い査定業務の効率化に挑戦する企業の事例から生成AI活用の最前線を探る。

次ページへ保険金の支払査定をAIにやらせてみる