生成AIは2024年から「実装フェーズ」に どのような領域で活用進む？（2/2 ページ）

[森川 智貴（株式会社wevnal），ITmedia]

生成AI実運用フェーズに入る「2024年」の課題とは

　2024年、実装フェーズにある生成AIはよりリスクの高い分野、つまり社内に閉じた活用ではなく、これまで以上に「顧客向けに活用」に広がっていきます。つまり、今後は「データの正確性の担保」が課題となります。現在は、生成AIが事実に基づかない情報を生成するし、不正確な回答をする事象（ハルシネーション）が一定数発生しています。顧客コミュニケーションなど、企業の信頼にかかわる分野への適用においてそのようなミスが発生した場合、生成AIの活用が遠ざかる可能性も否定できません。

　そうならないためには、2つの対策を実行していく必要があります。まず、1つ目は「フィルタリング機能の強化」です。これは、生成AIのハルシネーションを検知し、盛った回答や不正確な回答をしないようにルール設計をすることです。ルール設計の例として、筆者が事業責任者として開発に携わるチャットボット「BOTCHAN AI」を紹介します。同サービスでは、3層のフィルタリングを構築しています。「有害コンテンツ検出」「ハルシネーション検出」「ナレッジ非類似検出」の3つです。

1. 有害コンテンツ検出：生成AIが不適切な言葉や差別的な発言をしようとした場合に、検知する機能です。生成AIの誤った判断やユーザーからの悪意ある入力による攻撃的な発言や不適切な返答を防止します。
2. ハルシネーション検出：生成AIが不確かな情報や嘘を言わないように監視する機能です
3. ナレッジ非類似検出：生成AIがユーザーの質問に関する正確な知識を持っているかどうかを評価する機能です。ユーザーが求める情報と生成AIの知識との間にギャップがある場合、生成AIがその質問に答えないことを自発的に選択させます。これにより、誤解を招く回答や無関係な情報の提供を防げます。

　このフィルタリングを全て問題なく通過した内容が、質問者へ回答されるような設計にしています。

　実運用を進めるための対策の2つ目は「エスカレーションのルール設計」です。例えば、生成AIによるハルシネーションを検出した場合、生成AIが無理に回答を捻出するのではなく、「情報がないためお答えできません」「詳細は以下へお問い合わせをお願いします」などと返答するようなルール設計が必要になります。

生成AIを活用した会話生成のロジック（画像：wevnal提供）

生成AIに関する2024年の予測、トピック

　最後に、今年の生成AIに関して予測されるトピックを取り上げておきたいと思います。今年はヒューマノイド（汎用型）ロボットの開発が加速していくことが予測されます。これまで、工場用ロボットなどのように同じタスクを実行し続けるロボットはありましたが、もう少し曖昧（あいまい）な指示を処理できるロボットが近い未来に現れるでしょう。例えば、「料理をしてください」という依頼に対し、事前にロボットが料理メニューを学習していれば、「野菜はこの角度でカットする」「何度のお湯で何分間煮る」などと行動を細分化し、実行してくれます。

　現在、AIを搭載したヒューマノイドロボットの経済的インパクトに対する期待が呼び水となって、テクノロジー企業への投資は右肩上がりになっています。イーロン・マスク氏は2月24日、Xにオプティマス（Optimus）というヒューマノイドロボットが研究所を歩く様子を映した1分18秒の動画を投稿しています。

　「ChatGPT元年」である2023年を経て、実運用のフェーズに入った2024年にはさまざまなサービスへの実装がより加速していきます。さまざまな領域でコミュニケーションが自動化されていき、また面倒なプロンプトを考える必要がなく生成AIを使うことができるようになっていくことも予測されます。

　さらに2025年以降に目を向けると、人型ロボットの進化によって生成AIとのコミュニケーションはオンラインだけではなく、オフライン空間でも当たり前のものになることで、オンライン／オフラインの境界がが低くなっていきます。このことは、生成AIがオンラインデータだけでなく、オフライン空間のデータをも収集していくことを意味しています。その結果、顧客とのコミュニケーションは高解像度でのパーソナライズマーケティングが加速していくことでしょう。

　現在はまだ一部の人だけが使っている生成AIですが、今後は利用のハードルが下がること、さまざまなサービスへの実装により気づかないうちに生成AIを使うことが増えていくのではないでしょうか。

著者紹介：森川 智貴（株式会社wevnal　BX事業部 BOTCHAN AI事業責任者）

慶應義塾大学卒業後、新卒で医療ITコンサルティング会社へ入社。

2018年8月wevnalに入社。BXプラットフォーム「BOTCHAN」の立ち上げに従事。現在は、BOTCHAN AI 事業責任者として、生成AI Saasプロダクト「BOTCHAN AI」の陣頭指揮を執り、多くの企業への導入を推進中。また、2018年9月よりAI論文解説に特化したメディア「AI-SCHOLAR」を立ち上げ、日本一のAI専門メディアに育てるべく奮闘している。