自治体の“とある相談AI”使ってみた→返事は「水で薄めた助言」や「電話窓口への案内」 AI導入の意義を考える：マスクド・アナライズの「AIしてま〜す！」

[マスクド・アナライズ，ITmedia]

　先日、とあるAIスタートアップが自治体向けに導入している「相談AI」を試してみました。提供元はこのAIについて「さまざまな悩み に答えられる」「7割の利用者が満足した」などと性能面をアピールしています。提供元は2025年5月設立の新興企業ですが、現時点ですでに全国の複数の自治体において導入や実証実験を行っています。

　さらにメディア露出としても、全国放送の人気テレビ番組や大手新聞社にも取り上げられています。設立から1年もたたず躍進を続ける相談AIは、どれほど魅力的なサービスなのでしょうか。

自治体向け相談AIを使ってみる

　相談AIのサービス概要は「子育て世帯や孤立を抱える人、高齢者、子供を対象として24時間365日いつでも相談できる」というもので、福祉支援を目的としたAIです。既に多くの自治体で導入や実証実験が始まっています。そこで実際に自治体が提供する相談AIを試してみました。

　利用方法はLINEから登録年齢や性別などの簡単な情報を入力して、質問するだけ。ここでは子育てに悩む父親や、健康不安を抱える高齢者としてAIに相談してみました。同じ相談AIといっても、自治体によって回答までの時間が異なり、質問によっては数十秒待ちます。

　そうして送られてきたAIの回答結果は、一般論としてごく普通の内容で、正直な感想を言えば「GPT-4oのように相手に寄り添う雰囲気はあるが、ありきたりで中身が薄い回答」という印象です。

　高齢者の立場で医療費について聞いてみると、高額医療費の支援制度ではなくいきなり生活保護を提案されるなど回答に若干の不安もありました。「AIなので間違えることもある」と補足するものの、精度は期待できない印象です。さらに質問を行うと、自治体の窓口と電話番号を紹介されました。

　AIが当たり障りのない相談相手になって気持ちは楽になっても、解決するには自治体の窓口や電話相談が必要になる。一体どこにAIである必要性と成果があるのか、気になるところです。

　複数の自治体において異なる立場で繰り返し相談を行いましたが、結果としては「電話番号と役所の窓口を紹介される」という結果でした。また、紹介される窓口も質問とはずれている場合や、自治体の市民向けポータルサイトを紹介するものの、ポータルサイトのURLは教えてくれないなど、精度には不安があります。

　率直な感想としては生成AIが登場以前における微妙に役に立たないチャットbotという印象でした。

AIチャットの特性とは何か？

　相談AIの提供元である、とあるAIスタートアップは、自治体における人間が対応する運用を問題視しています。同社は「人間の窓口は平日の午前9時〜午後5時しか対応できないが、AIなら24時間365日対応できる」「人間では聞きにくいことも、AIなら気兼ねなく相談できる」と説明。こうした背景から、自治体における相談AIの展開を進めています。

　現在提供中の相談AIの成果については、実証実験の多くが26年3月まで実施されます。そのため具体的な成果などは現時点では不明です。しかしながら24時間365日対応できるLINEを通してAIに相談しても、平日の午前9時〜午後5時までしか対応できない自治体の窓口と電話相談に誘導されるため、果たしてAIを導入する意義があるのかは疑問です。

　とあるAIスタートアップは相談AIの効果について「7割の利用者が満足した」「9割の相談者は人間とAIが選択できる状況でAIを選んだ」「AIが一次対応により、人間が対応するケースを1割に減らせる」としています。

　しかし実際にはAIに相談しても、人間が平日の日中に対応する窓口に案内されただけです。開発中のAIと運用中のAIで性能が異なるのか、不満の声を自治体に送る人がいないのか、原因は分かりません。

　相談AIのようなAIチャットを巡っては「何でも自由に入力できるUIはハードルが高い」と指摘される事例も出てきています。商品比較サービスのマイベストと、症例の検索・相談ができるAIチャット「ユビー」のUbieはそれぞれ、利用者が文章で要望を伝えられるAIチャット機能をtoCプロダクトとして提供していますが、その失敗事例を告白しています。

　例えばマイベストでは、「しっかりと乾燥させたい人におすすめの20万円以内のドラム式洗濯機を教えて」など、具体的な条件を入力するだけで最適な商品を提案するAIチャットをリリースしました。初めこそ物珍しさで使われていましたが、実際は「おすすめの洗濯機は？」など、簡素な入力で済ます利用者が多く、AIチャットの継続利用率は日々下がっていきました。

　Ubieでも、ユビー上で「今日はどんなことを話したい？」と利用者に問いかける仕様を実装。これにより利用者が積極的にAIチャットに書き込むことを期待していましたが、結果は真逆で、多くのユーザーが一言も入力せず離脱し会話が始まらない状況になったといいます。

　これらの結果から両社は「ユーザーが自分の欲しいものを言語化して、チャットに入力するのはハードルが高い」「自由すぎるUIは、不親切」などの結論を出しており「いかに利用者に“入力をさせないか”が重要」と指摘しています。

聞き心地の良い言動に惑わされない

　AIチャットの実証実験である以上、失敗や課題が残るのは当然です。成功させるためには「どの生成AIを選ぶべきか」「どのAIツールが良いか」という道具選びが大切なのはもちろんですが、それと同じくらい「誰に開発を依頼すべきか」も重要です。

　例えばAI導入を考えている自治体があり、AIに関する技術や知識は不十分だけど「経営者が知り合いだから」という理由だけで選んだIT企業に依頼すれば、その自治体のAI活用は失敗する可能性が高いでしょう。人のつながりがきっかけで、導入や実証実験につながる可能性が高まる側面もあるでしょうが、成果を出して継続的に利用できるかは別問題です。

　またこれが企業であれば、導入したAIツールの費用対効果における成果の検証が行われます。公共性が求められる場面では、費用対効果や成果だけで決まることではありませんが、成果が不明瞭なものに資金が使われている状況は、好ましいものではないでしょう。

　生成AI以前から続くAIブームにおいて、壮大な理想を掲げる言動や人物が注目を集める傾向があります。「AIで日本を元気にする」「AIによるイノベーションを実現する」のような聞き心地の良い言動とは裏腹に、不正売上による株式上場が発覚したスタートアップもあります。

　大切なのは、聞き心地の良い言葉に惑わされずに、地味でも成果を出せる可能性の高いものに投資していくことです。相談AIにとってはまず、多くの実証実験が終了する26年3月が節目となるでしょう。その後どのような展開をみせるのか。注目が集まります。