AIエージェントの「統制不能」、どう回避する？ AIベンチャーの会見から考察：Weekly Memo（2/2 ページ）

[松岡 功，ITmedia]

AIエージェントにおける3つの課題とは

　一方で、AIエージェントの課題についてはどうか。佐藤氏は「最初に個人が利用する単純なエージェントでさえ、課題は山積みだ」として、「機能が限定的」「データが不正確」「月末のピーク時にクラッシュ」といった点を挙げた（図3）。

図3　単純なエージェントには課題が山積み・その1（出典：Dataiku Japanの会見資料）

　同氏は図4を示し、「単純なエージェントは、技術的にもハルシネーション（幻覚）が修正されないままだったり、アウトプットの品質を継続的に監視する方法がなかったりする」と指摘した。

図4　単純なエージェントには課題が山積み・その2（出典：Dataiku Japanの会見資料）

　さらには「マルチエージェントシステムになると、エラーが積み重なって連鎖的な障害を引き起こしたり、サイロ化されたシステムで作成されたエージェントは統制不能となり、全体として混沌としてしまう」（佐藤氏）と警鐘を鳴らした（図5）。

図5　マルチエージェントシステムの課題（出典：Dataiku Japanの会見資料）

　図3〜図5に示されている「単純なエージェント」（すなわち、汎用《はんよう》ビジネスエージェント）は、それぞれの業務アプリケーション向けのエージェントではなく、人に帯同する「パーソナルエージェント」だと捉えられる。要は、このエージェントの信頼性に大きな課題があるというのが同氏の主張だ。この点は後ほどまた話題に上げるので、覚えておいていただきたい。

　その上で、佐藤氏は改めてAIエージェントの課題として、「システムとの脆弱（ぜいじゃく）な接続」「障害の診断が不可能」「説明責任の欠如」の3点を挙げた（図6）。

図6　AIエージェントにおける3つの課題（出典：Dataiku Japanの会見資料）

　こうした課題に対し、同氏は「当社としては、AIエージェントを拡大しながら制御を維持するために、今こそエージェントのアーキテクチャとガバナンスを適切に構築することが重要だ」として、「エージェントのエンタープライズオペレーションをしっかり実行する」「エージェントを継続的に監視して最適化する」「エージェントの開発についても完全に管理する」といった支援をする構えだ（図7）。

図7　AIエージェントの課題に対応するDataikuの考え方（出典：Dataiku Japanの会見資料）

　それが、今回発表されたソリューション「AIエージェントwith Dataiku」だ。

　AIエージェントの価値や課題についての佐藤氏の説明が分かりやすかったので、会見の質疑応答で筆者は「AIエージェントは多くの企業の業務システムにどのような形で入っていくと見ているか。例えば、個々の従業員が帯同するパーソナルエージェントが起点になって業務ごとのエージェントとつながるのか。もしくは人が業務ごとのエージェントと必要に応じて直接つながるのか」と聞いてみた。すると、同氏は次のように答えた。

　「当初はパーソナルエージェントが起点になるかもしれないが、それを個人で管理するとなると、やはり信頼性における懸念が拭えないのではないか。それに対し、業務対応のエージェントは当社のソリューションを適用していただければ、総合的にしっかりと管理できる。エンタープライズの業務システムでAIエージェントを活用するには、信頼性が非常に重要だということを重ねて強調しておきたい」

　佐藤氏の立場としては、Dataikuのソリューションをプッシュするのは当然だが、どのような入り方でも「信頼性」が非常に大事なポイントになるのも当然だろう。また、同氏が課題として指摘していたさまざまな点も技術的にハードルの高いところが多い。さらにコストパフォーマンスとして納得感が広がるかどうかも気になるところだ。

　それでもAIエージェントは早く手掛けて、自社にどう適用するかを探るべきだ。なぜならば、どの企業にとってもAIエージェントを使いこなすことが業務およびビジネスの変革に直結し、競争力の強化につながると考えるからだ。今回の佐藤氏の話を聞いて改めてそう感じた次第である。

（注1）Dataiku、ユニバーサルAIプラットフォームにAIエージェントの構築と制御機能を導入

著者紹介：ジャーナリスト 松岡 功

フリージャーナリストとして「ビジネス」「マネジメント」「IT／デジタル」の3分野をテーマに、複数のメディアで多様な見方を提供する記事を執筆している。電波新聞社、日刊工業新聞社などで記者およびITビジネス系月刊誌編集長を歴任後、フリーに。主な著書に『サン・マイクロシステムズの戦略』（日刊工業新聞社、共著）、『新企業集団・NECグループ』（日本実業出版社）、『NTTドコモ リアルタイム・マネジメントへの挑戦』（日刊工業新聞社、共著）など。1957年8月生まれ、大阪府出身。