「もっともらしいウソ」をなくした“信頼できる”AI、Google「CoDoC」開発 医療診断に活用：Innovative Tech

[山下裕毅，ITmedia]

Innovative Tech：

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

Twitter: ＠shiropen2

　Google DeepMindやGoogle Researchに所属する研究者らが発表した論文「Enhancing the reliability and accuracy of AI-enabled diagnosis via complementarity-driven deferral to clinicians」は、“医療画像をAIと人のどちらが診断した方が良いかを判断するAIツール”を提案した研究報告である。

　「CoDoC」（Complementarity-driven Deferral-to-Clinical Workflow）と呼ぶ今回の手法は、医療画像を最も正確に解釈するために、予測AIツールに頼るべきか、医師に委ねるべきかを学習するAIシステムである。

　これにより、予測AIが何かを知らないとき、つまり信頼できる答えがないときに事実をでっち上げる最新のAIツールの問題を回避できる。

CoDoCを臨床ワークフローに挿入する方法を示す図

モデルが医師より正確な場合はAIのみが有利となり（緑と赤の領域）、人間の判断がAIより優れている場合は医師が有利となる（灰色の領域）。

　CoDoCは、胸部X線やマンモグラムなどの医療画像を解釈するために使用されるケースを想定しており、既存のAIシステムとともに動作するように設計されている。例えば、予測AIツールがマンモグラフィを分析する場合、CoDoCは予測AIツールの認識する信頼性が診断に頼るのに十分かどうかを判断する。

　トレーニングでは、医療画像を見た際のAI予測ツールによる信頼スコア、医師による実際の診断、生検やその他の臨床的経過観察によって確定された病気の事実の3つを参考に学習する。

CoDoCの学習方法を示す図

　CoDoCを複数の実世界データセットでテストした結果、例えばマンモグラフィーのデータセットにおいては偽陽性判定の数を25％減少させた。これらの結果により、医師と予測AIの長所を組み合わせることで、どちらか一方だけよりも高い精度が得られることを示した。

Source and Image Credits: Dvijotham, K., Winkens, J., Barsbey, M. et al. Enhancing the reliability and accuracy of AI-enabled diagnosis via complementarity-driven deferral to clinicians. Nat Med（2023）. https://doi.org/10.1038/s41591-023-02437-x