「ここは人間も失敗するしAIでもいいのでは」――生成AIの業務導入で外せない“幻覚”との付き合い方(3/3 ページ)
「ハルシネーション」への新たな視点
生成AIによって大幅な効率化が見通せる一方で、ハルシネーションへの対応は大きな課題だとされる。間違いが許されないという金融業界独特の慣習もあって、ウソをつくかもしれないという生成AIへの不信感は根強い。しかし、この課題に対する見方にも変化が出てきた。
Finatextホールディングスグループであるナウキャストのデータ&AIソリューション事業責任者、片山燎平氏は次のように話す。「AIを変に期待せず、要素技術として正しく理解することが重要だ。AIをAGI(汎用人工知能)のように捉えるのではなく、『ここは人間も失敗するしAIでもいいのでは』という観点で導入ポイントを探ることが必要」
これは、人間とAIを同等に扱う新しいアプローチだ。山崎氏も「人間が作業したとしても間違いは発生する。生成AIを使う際も同様の前提で考えている」と指摘する。その上で「間違いがあったとしても一定の価値があることを目指している」と述べた。
この考え方にはグローバルと日本で差異がある部分でもある。山崎氏は、海外の事例を引き合いに出しこう説明する。「グローバルで見ると、生成AIを使った保険の自動査定やアンダーライティング(契約条件の設定)の自動化が進んでいる。日本では規制や顧客保護の観点から難しい面もあるが、一定のリスクを許容してサービスを作る姿勢も重要だ」
日本の金融機関は従来、エラーに対して極めて厳格な姿勢を取ってきた。業界団体が金融業界に特化した「金融生成AI実務ハンドブック」を作成するなど、生成AIを特別視する流れもある。しかし、グローバルな競争の中で、この姿勢が革新の妨げになる可能性も指摘されている。
ハルシネーションへの対応は、金融業界にとって避けて通れない課題だ。しかし、完璧を求めすぎるあまり、革新的なサービスの芽をつんでしまっては本末転倒だろう。人間にもミスはつきもの。その現実を踏まえつつ、AIの長所を生かす。そんなバランス感覚が、これからの金融サービスにも求められそうだ。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
NotebookLMに公式APIが登場 WebページやYouTube動画の取り込みを自動化でき、MCPでAIエージェントからも使える
-
2
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
3
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
4
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
5
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
6
NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす 「心よりおわび」
-
7
大手自動車メーカーの検図工数を90%削減 AIが図面の重要な変更点を判別
-
8
Anthropic、IPO前夜に「SaaS殺し」へ舵? Claudeに表計算を内蔵した、真の狙い
-
9
わが社はChatGPTでどう紹介されている? OpenAIが企業向けの確認機能を提供開始
-
10
NTTが宇宙光通信網の構築へ 「IOWN搭載」衛星と宇宙データセンターで米中に挑む
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR