AIが京都と滋賀を“勘違い”？ Xに誤情報が掲載→京都市が注意喚起 「正しい発信をして」と同市

[島田拓，ITmedia]

　「SNSではすぐに（情報が）拡散されるので、正しい情報を発信してほしい」――京都府京都市の広報担当者は10月22日、X上に誤情報が掲載された件に対し、このように指摘した。同市は21日、「京都市、単純ミスも処分対象に厳格化　隠蔽懸念の声相次ぐ」との誤情報を確認したとして、公式Xなどで注意を呼び掛けていた。

AIが京都と滋賀を“勘違い”？　Xに誤情報が掲載→京都市が注意喚起

　問題となった誤情報は、X上の投稿をチャットAI「Grok」が要約して表示する「本日のニュース」に21日までに掲載されたもの。誤情報のもとになったのは、京都新聞が17日までに報じた内容とみられる。同記事では、滋賀県長浜市の浅見宣義市長が市役所内での事務ミスを厳罰化する方針を掲げたとしており、X上で注目を集めていた。

　同記事のタイトルは「市役所職員の事務ミスを厳罰化へ　単純ミスはこれまで処分対象ならず、市長『時代に即した処分』」。自治体の名前に関する情報が含まれておらず、報道元が京都新聞という名前だったこともあってか、Grokはこのニュースを京都市のものとして誤ってまとめたようだ。

　今回の件について、京都市の広報担当者に聞いたところ、同市職員が21日の朝、X上で誤情報を確認。市の公式サイトと公式SNSで注意喚起し、Xを運営するX Corp. Japanに誤情報の削除を依頼した。その後、X Corp. Japanから同日午後1時ごろに「誤情報を取り下げた」として謝罪の連絡があったという。

京都市が公式サイトに掲載した注意喚起全文（出典：公式サイト）

　広報担当者は、X Corp. Japanの対応について「削除依頼に速やかに対応していただいたことは感謝する」とする一方、「SNSではすぐに（情報が）拡散されるので、そもそも正しい情報を発信をしてほしい」とコメントした。

　Xの本日のニュースには「Grokは間違えることがあるため、アウトプットが事実かどうかを確認してください」との注意書きがあるものの、これまでも時折、誤った要約をしているとして注目を集めていた。

　今回の件に対し、X上ではAI要約の誤りを懸念する声が出る一方、「地域の名前を冠した新聞で（タイトルに）自治体の名前がなければ勘違いする」として、京都新聞の記事タイトルの不備を指摘する投稿も見られる。