物議の“AIカルテ”報道、記事・動画は削除に TOKYO MX「誤解を招きかねない表現あった」

[島田拓，ITmedia]

　東京メトロポリタンテレビジョン（TOKYO MX）は4月21日、報道番組「堀潤Live Junction」で16日に放送した、病院でのAI活用に関する映像について「視聴者の皆さまに誤解を招きかねない表現があった」として、訂正したと明かした。同番組では、生成AIに患者の個人情報を入力してカルテを作成しているように見える映像を放送。同内容をまとめたWeb記事とYouTube動画を見たSNSユーザーから、AIの利用法に問題があるのでは、などの指摘が相次いでいた。

東京メトロポリタンテレビジョンのロゴ

　問題となったのは、東小金井小児神経・脳神経内科クリニック（東京都小金井市）が、患者の情報を入力するだけで自動でカルテを作れる「AIカルテ」を導入したとする映像だ。米AnthropicのチャットAI「Claude」に患者の病歴を入力し、カルテを作成しているように見える様子が映っていたため、Xでは18日ごろから「Claudeに患者個人情報ダイレクト入力はダメでしょ」などの指摘が続出し、波紋を広げていた。

削除された動画の様子（1/3）

削除された動画の様子（2/3）

削除された動画の様子（3/3）

　一方、同院は18日、「当院では個人情報を汎用生成AIに入力することは一切していない」と公式サイトで発表。「取材時にデモンストレーションとして示した、ダミー患者の情報を汎用生成AIに入力して情報をまとめる動作が映像として放送されていた」「医療現場（特に多くの医師が働く大きな規模の病院）において汎用生成AIを使用することの危険性について取材時に語った内容に関しては正しく報道されておらず、個人情報を汎用生成AIに入力していると誤解されかねない編集内容に私達も困惑している」などと表明していた。

東小金井小児神経・脳神経内科クリニックの声明全文（画像は病院の公式サイトより引用）

　TOKYO MXによると、同社は東小金井小児神経・脳神経内科クリニックと協議のうえ、18日にWeb記事とYouTube動画を削除。同日に放送した「堀潤Live Junction」内では、「おとといこの番組で放送した、医師の働き方改革についてお伝えした特集で、東小金井小児神経・脳神経内科クリニックで、AIを活用しカルテを作成していると、ダミー画面の映像とともにお伝えしました。クリニックによりますと、一連の作業において患者の氏名など特定の個人を識別できる情報は入力しておらず、診療経過の情報のみをまとめさせ、作業量を減らしているということです」と補足したとしている。

　なお、同院が声明で指摘した取材時の状況や、映像編集の意図について確認したところ「取材・編集内容については答えられない」と明言を避けた。

　医療AIサービスの普及のため研究開発を行う団体「医療AIプラットフォーム技術研究組合」の資料によると、「（生成AIの）入力データが再学習に利用される設定となっている場合に個人情報を入力すると、第三者提供となるため、本人の同意を得ずに医療情報などの個人情報を入力してしまうと個人情報保護法への違反となる」という。また医療情報を取り扱う場合でも「生成AIのサーバなどが、国内法の適用を受ける場所に設置されていること」などの要件を満たす必要があるとしている。

生成AIで医療情報を取り扱う際の注意点（画像は「医療AIプラットフォーム技術研究組合」の資料より引用）