「あの資料、どこいった？」からの解放 自治体の“文書地獄”を片付ける「自律型AI」の実力（2/3 ページ）

[川口弘行，ITmedia]

自治体が備えておきたいリスクを整理

　AIエージェントを自治体で運用させていくための条件について考えてみたいと思います。

　最初に考えたいのはセキュリティの問題です。

　ここには「外部からの不正アクセス」や「内部からの意図しない情報漏えい」、さらに「システムやデータの破壊」などが含まれます。

　自治体の場合、庁内ネットワークが分離されており、庁内からインターネットへのアクセス手段も限られています。また、職員が扱う文書ファイルの多くは、庁内ネットワーク上のファイルサーバで共同管理されているのが一般的です。そのため外部からの不正アクセスや内部からの情報漏えいのリスクは小さいのかもしれません。

　システムやデータを意図せず破壊してしまうリスクを防ぐには、AIエージェントにはファイルサーバの「読み取り」だけを許可し「書き込み」や「削除」はできないようにするのが望ましいでしょう。そう考えると、AIエージェントはファイルサーバにアクセスしやすい、比較的近い場所に配置するのが自然です。

　その上でAIエージェントに文書ファイルを生成させる場合は、それらを書き出すための領域を別途設ける必要があります。

AI導入で押さえておくべき費用のポイント

　続いて、コストの問題です。動作させるための専用の機器のコストと、サービスを利用するためのコスト（主にLLMの使用料）、そして運用に要するコストがここには含まれます。

　この問題はさらに「『機密性2』である庁内情報を生成AI（LLM）に渡してしまって良いのか」という新たな問題の提起にもつながります。

　筆者の過去記事でも触れていますが、自治体が扱う情報は「機密性」のレベルによって複数に分類されています。

　例えば、公開情報は「機密性1」、庁内で取り扱う情報は「機密性2」、住民の機微な情報は「機密性3」のように分類されており、それぞれ管理方法や受け渡しの制限が異なるのです。

　実は自治体が生成AIを利用する上で、このあたりの議論というのは曖昧なままでした。庁内情報を使ってAIエージェントに処理をさせるということは、庁外に「機密性2」の情報を持ち出すことになります。

　この問題の答えは、最終的には各自治体のセキュリティポリシー次第ということになるのですが、筆者が生成AI利活用を支援している自治体と会話をしていると「生成AIの多くはクラウド上のサービスであり、LLM提供事業者がしっかりしていて、国内リージョンでサービス提供していて、通信の安全性が確保されていて、投入したプロンプトやコンテキストがLLMの学習データにならないのならば、まぁ良いのでは？」という解釈が現在の主流のようです。

　ただ、このあたりの解釈は徐々に拡大しており、形骸化する懸念もあります。実際に「クラウド上にはデータを残しません」とうたうAIサービスであっても、実際にはデータがひそかに保存されているのではないか、必要以上に情報が収集されているのではないか、と疑念を持たれるケースも見受けられます。

　このように、自治体の中でも慎重な意見や不安の声が根強く存在しているのも事実です。したがって、これらを十分に考慮し、どのレベルまでの機密情報を外部のLLMに取り扱わせるかをあらかじめ明確に定めておく必要があります。

　では、外部のLLMで取り扱えないと判断される情報は、AIエージェントでは扱えないのでしょうか？　最近ではローカルLLMの技術も進歩していて、少し良い性能の機器があれば、ネットワークにつながなくても生成AIを動かせるようになりました。従って、外部への通信は必須ではなくなりつつあります。応答速度は多少劣るものの、従量課金の利用料の心配をしなくてよいのはメリットです。

　つまり「動作させるための専用の機器のコスト」「サービスを利用するためのコスト（主にLLMの使用料）」「応答速度」、そして「庁内データの持ち出しに対する許容度」のバランスの中で検討するようになるのでしょう。

　庁内でAIエージェントを運用する際は、適切な運用コストを見積もっておく必要があります。なお今回は議論の対象から外しましたが、扱う情報の機密性や重要性によっては、外部のホスティングサービスやクラウドサーバ上で運用する選択肢も考えられるでしょう。

　その場合、庁内での運用に比べて直接的なコストは抑えられる可能性があるものの、結局はホスティングやクラウドの利用料として別の形でコストが生じる点に留意が必要です。