AIが生成した文書は「手抜き」なのか？ ”拒絶”する前に押さえたいポイント（1/2 ページ）

[川口弘行，ITmedia]

　こんにちは。地方自治体のデジタル化に取り組む川口弘行です。8月からスタートした連載では、自治体における生成AIの利活用について、「生成AIが出力した回答の妥当性」と「送信された情報の管理の問題」について焦点を当てました。

　特に「送信された情報の管理の問題」、つまり「ChatGPTに重要な情報を送信しても安全なのか？」という点については、自治体の情報セキュリティポリシー（実施手順）でその運用を定めること、また、その前提となる考え方として、情報資産の機密性とネットワークとの関係について説明しました。

　関連記事：ChatGPTに重要な情報を送っても安全か？　自治体のネットワーク分離モデルから考える

　関連記事：プロンプトの悩み不要　自治体で使うべき「ChatGPT Plus」の機能とは？

　今回は「生成された文章に対する評価者側の問題」について考察してみましょう。

　例えば、あなたが文書を受け付けて審査する行政機関の職員の立場にあるとします。そこで、受け取った文章が実はChatGPTによって生成されたものだったと知った場合、どのような感情や反応を示すでしょうか？　ともすれば「手抜きだ」「誠意がない」などとして拒絶する人もいるかもしれません。果たして、それでいいのでしょうか？　詳しく見ていきましょう。

「AIが生成した文章だからダメ」という理屈は通用する？　写真はイメージ（ゲッティイメージズ）

著者プロフィール：川口弘行（かわぐち・ひろゆき）

川口弘行合同会社代表社員。芝浦工業大学大学院博士（後期）課程修了。博士（工学）。2009年高知県CIO補佐官に着任して以来、省庁、地方自治体のデジタル化に関わる。

2016年、佐賀県情報企画監として在任中に開発したファイル無害化システム「サニタイザー」が全国の自治体に採用され、任期満了後に事業化、約700団体で使用されている。

2023年、公共機関の調達事務を生成型AIで支援するサービス「プロキュアテック」を開始。公共機関の調達事務をデジタル、アナログの両輪でサポートしている。

現在は、全国のいくつかの自治体のCIO補佐官、アドバイザーとして活動中。総務省地域情報化アドバイザー。

公式Webサイト：川口弘行合同会社、公式X：@kawaguchi_com

「AIが生成した文章だからダメ」という理屈は通用するのか

　ChatGPTをはじめとする多くの生成AIサービスは、無料で利用できるものが数多く存在します。行政機関の職員のみなさんが、これらのAIサービスに対して慎重な姿勢を取ることは理解できますが、一方で市民の方々にとっては、無料で利用できる便利なツールの一つです。無料ですので、当たり前のように使っている方もいらっしゃるでしょう。

　つまり、市民からの問い合わせや申請の中に、生成AIを利用して作成された文書が含まれていることを想定しておく必要があります。

　実際、私が関与している自治体では、事業者から提出された提案資料の中に、生成AIを活用して作成されたと思われるものが散見されます。もっとも、生成AIで生成された文章は「前半で結論、中盤でその説明、末尾にまとめ」という構成を取ることが多く、言葉の言い回しにも無機質な印象を与えるものが多いので、私自身がそういう文章に敏感になっているだけなのかもしれませんが。付記しておくと、このような構成の文章は「人を説得するため」に書かれる提案資料には不可欠なので、構成そのものや言い回しがダメという意味ではありません。

　不思議なのは、その事業者に対して「この提案資料は生成AIを使って書きましたか？」と尋ねると、どの事業者も「いいえ、使っていません！」と強く否定するのです。もしかすると、生成AIの利用＝手抜き、という印象が強いのかもしれませんね。

　ここで、以前の私の記事の論点をおさらいしておきましょう。生成AIからの回答は単なる「意見」に過ぎず、それらの意見を慎重に検討し、最終的な判断を下すのは人間の重要な役割である、というお話でした。

　これに基づいて、提案資料の事例で考えると、最終的な成果物が人間の判断を経て作成されたものであれば、その過程で生成AIを活用しようが、ゴーストライターの助けを借りようが、作成プロセスだけでその提案の優劣を判断するのは適切ではなく、提出された成果物を発案者自身の提案として扱うべきだと考えます。

　生成AIの利用を「手抜き」と捉えるか「業務効率化」と評価するかは、意見が分かれるところです。感情面では提案自体に真摯（しんし）さが欠けているという印象を与えかねないことから、現時点では生成AIを活用していることを積極的に主張するメリットは少ないかもしれません。ただし、この認識は今後、技術の進化や社会の受容度に応じて変化していく可能性があります。

　事業提案を審査する行政機関の立場からも、生成AIを活用する可能性が広がっています。具体的には、RAG（Retrieval-Augmented Generation：検索拡張生成）という技術を活用しています。この手法では、まず提案資料を生成AIに事前に読み込ませ、あらかじめ設定した審査基準に基づいて、AIに提案内容の適合性を分析させることができます。

　筆者が代表を務める川口弘行合同会社で運営している調達支援サービス「プロキュアテック」では、この技術を使った提案資料の自動審査機能を有していて、すでにいくつかの自治体で利用が進んでいます。この方法により、人間の審査者が見落としがちな細かな点まで、AIで網羅的にチェックさせることができます。また、大量の提案を同じ条件で、短時間で評価することも可能になるでしょう。

　もちろん、評価結果はAIからの「意見」であるため、最終的な判断はあくまで人間が行うべきであることは言うまでもありません。

調達支援サービス「プロキュアテック」での提案資料自動審査の流れ

　客観的に見ると、このような生成AIの活用の流れはますます加速していくと予想されます。その結果、「AIに読ませるための文書をAIが作成する」というように、さまざまな文書はAIで処理されることを前提とした「AIオリエンテッド」な形態に変化していく未来が来るかもしれません。

　このような状況下で、最終的な判断を下す責任を担う人間には、どのような資質や能力が求められるのでしょうか？