2025年、AIエージェント元年？　企業内で安全に使うには　「AIエージェント・ガバナンス」を考える（1/4 ページ）

公開 2025年02月07日 12時00分

著者

小林啓倫

[ITmedia]

印刷する連載新着通知を受け取る

　2025年はAIエージェントの年になる――そんな予想が24年から各所でささやかれているが、そうした声の通り、AI関連企業各社からさまざまなエージェント系サービス、あるいはエージェント機能の発表が相次いでいる。

　最近も、おなじみ米OpenAIから「Operator」サービスの発表があった。残念ながら日本からはまだ使用できないが、これは「Webページ上のボタンやメニュー、テキストフィールドなどのGUI要素と直接対話し、ユーザーに代わってタスクを実行可能」なのだという。OpenAIによる公式の紹介動画では、ピザの宅配を注文するといった指示を、ユーザーに代わって処理する様子を確認できる。

　技術系バズワードにありがちな話だが「AIエージェント」の定義ははっきりとは定まっていない。IT系企業やリサーチ会社などからさまざまな定義が発表されており、例えば米IBMは「AIエージェントとは、ワークフローを設計し、利用可能なツールを活用することで、ユーザーまたは別のシステムに代わってタスクを自律的に実行できるシステムまたはプログラムを指す」と説明している。

　他の定義も似たようなもので、現時点では、AIエージェントとは「情報システムを使用したタスクを自律的に実行するアプリケーション」といえるだろう。

自律的に動くアプリ「AIエージェント」

　確かにそうした自律的なツールは、私たちにとって大きな助けとなるだろう。ピザを注文してもらうだけでなく、調べ物をしてもらう、出張の日程の立案とホテル・移動手段の予約をお願いする、事件・事故の発生を自ら察知して適切に対応させるなど、さまざまなユースケースが考えられる。特に企業にとっては、業務の効率化だけでなく、競争優位を得るために欠かせない存在になることが予想される。

　しかし可能性が大きければ、その分リスクも大きくなる。AIだけでも、そのガバナンスの在り方を巡って、かんかんがくがくの議論が続いているというのに「AIエージェント」を企業内で安心安全に活用するためには、どのようなガバナンスを確立すれば良いのだろうか。まだベストプラクティスはおろか、具体例すら見えていない状況だが、「AIエージェント・ガバナンス」がどのような姿になり得るのか考えてみたい。

通常のAIとは異なる、AIエージェントならではのリスク

　定義について話した際にも触れたが、AIエージェントの最大の特徴は「自律性」にある。従来のAIは、いくら優秀でも、目的を達成するまでに人間が事細かに指示を考えたり、さまざまな判断を下したりしなければならなかった。しかしAIエージェントの場合、エージェントが自ら判断し、行動まで実行してしまう。そうした自律性から独自に生まれてくるリスクには、どのようなものがあるだろうか。

　まず挙げられるのが、自律的な意思決定によって、人間の確認を経ずに重要な業務が遂行されてしまう危険性だ。例えば、在庫管理・購買管理を任されたAIエージェントが、在庫状況をチェックしながら自動で受注から発送依頼までをこなしているとしよう。

　もし何らかの不具合や不正確なデータが原因で、受注・発注内容に大きな誤り（あり得ないほど大量の発注やキャンセルなど）が発生しても、誰も気付かないままその内容が実行されてしまう恐れがある。通常のAIであれば「提示された案に対して人間が最終判断を下す」というプロセスがあるため、致命的な誤作動を回避しやすかったが、エージェントはそのフィルターをすり抜けがちになるわけだ。

　これは大きなミスが突然発生するケースだが、もっと把握しづらい危険性もある。AIエージェントは24時間365日、自動的に稼働し続けられるのも特徴の一つだが、そうした長期間稼働するからこそ気付きにくい問題が考えられるのだ。

　例えば、企業内で採用活動をサポートするAIエージェントが、候補者のスクリーニングや面接日程の調整を、関連システムと連携しつつ一貫して行うケースを想像してみてほしい。これがしばらくうまくいっていれば、人事担当者も「この作業はエージェントに任せておけば大丈夫」と考え、細かい挙動を確認しなくなるかもしれない。

　しかし、日々の微妙な変化が積み重なるうちに、いつの間にか候補者選定の方針が偏っていく、あるいは現実と乖離するなどのリスクが生まれる。長期の放置が可能なAIエージェントだからこそ、後から「実はバイアスがかかり続けていた」「AIモデルの精度が低下していた」と気付くケースが考えられる。

次ページへ AIエージェント・ガバナンスに求められるポイント