Innovative Tech：

AIが生成した“存在しない病名”、研修医の44％が信用　見抜けた医師との差は？　仏大学病院が検証

公開 2026年08月31日 07時00分

著者

山下（Seamless）

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

Innovative Tech：

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。X：＠shiropen2

　フランスの大学病院「Lille University Hospital」などに所属する研究者らが発表した論文「Hallucination by proxy in LLM-assisted differential diagnosis」は、大規模言語モデル（LLM）がもっともらしく提示した架空の病名が医師にどのような影響を与えるかを検証した研究報告だ。

　LLMを用いた診断支援は医療において可能性を秘めているが、AIのハルシネーションが医師の診断にどのような影響を与えるかについては解明されていない。

　研究チームは、LLMベースの診断支援システムのシステムプロンプトを意図的に操作し、鑑別診断のリスト内に「ニューロカドミウム症」（neurocadmiumatosis）という架空の診断を提示する（最も確からしい診断として挙げる）ように仕掛けた。そのうえで、医療機関内およびオンラインでの調査を通じ、計41人の医師に脳MRI画像の診断をLLMの支援付きで行わせ、架空の病名に対する反応を観察した。

実験の流れを示した図

　実験の結果、全体の44％にあたる18人の医師が、自身の鑑別診断リストにこの存在しない疾患を組み込んでしまった。18人中15人は、正解を第1位に置いたまま、架空の病名を2位か3位に置いた。

　このAIのハルシネーションに騙されるかどうかは、医師の経験値に依存している。神経放射線のトレーニング歴が6カ月以下の医師では69％（26人中18人）が架空の病名を組み込んでしまったのに対し、トレーニング歴が6カ月を超える医師（15人）でだまされた者は1人もいなかった。

神経放射線の研修歴（6カ月以下と6カ月超）で分けた診断精度（左）と架空の病名の受け入れ率（右）

　ただし、架空の病名を受け入れた医師であっても、その疾患に対する確信度の中央値は37％にとどまり、自身が第1位に挙げた診断に対する確信度（80％）に比べると低い水準だった。

　また、LLMの支援自体は参加者全体の診断精度を52％から61％へ向上させており、架空の病名を受け入れたグループと拒否したグループとの間で精度の向上幅に差は見られなかった。

架空の病名を受け入れた医師（18人）と拒否した医師（23人）について、LLM対話前後の診断精度を比較した図

　研究チームは、AIの生成した誤情報が人間の臨床医の診断思考に間接的に取り込まれるこの現象を「代理ハルシネーション」（Hallucination by proxy）と命名した。

Source and Image Credits: Bastien Le Guellec, et al. “Hallucination by proxy in LLM-assisted differential diagnosis” (2026)

印刷する

SpecialPR

Innovative Tech

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説している。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

連載新着通知を受け取る

この連載の記事をもっと見る