カナダ Ontario 州の監査により、医療現場で使われている AI ノートテーカーツールが患者の医療記録に虚偽の情報を生成していることが明らかになりました。医療の信頼性と患者安全を脅かす重大な事例として、医療 AI システムの検証体制が問い直されています。

Ontario 監査で判明した AI の誤り

Ontario 州の監査チームが医療機関のカルテを調査した結果、以下のような誤りが多数発見されました：

  • 存在しない治療紹介 — 患者が実際には受けていない治療やセラピストへの紹介がカルテに記録されている
  • 誤った処方箋情報 — 医師が処方していない医薬品や用量がノートに記載される

これらの誤情報は、その後の医療判断に直結する可能性があり、患者の治療経過や診療履歴の信頼性を損なわせます。

医療現場での AI 導入の落とし穴

AI ノートテーカーは、医師の診察内容を自動で医療記録に変換するシステムとして導入が進んでいます。業務効率化の観点では利点がある一方、以下の課題が浮き彫りになっています：

  1. 理解の誤り — 医師の話す内容や患者の説明を誤解・誤変換する
  2. 推論による幻想 — 存在しない情報を「あるべき手続き」として生成する
  3. 検証体制の不足 — AI が生成した記録を医師が常に再確認していない可能性

Ontario の監査結果は、医療 AI システムの検証・監督が法的・技術的に追いついていない実態を示しています。

医療業界への示唆

この事例は、以下の点で医療 AI 導入の転機となる可能性があります：

  • AI 出力の再確認 — AI 生成記録を医師が必ず確認するプロセスの厳格化
  • 規制・認証 — 医療用 AI システムへの独立した検証・承認プロセスの強化
  • 患者への透明性 — 患者が「どの情報が AI により記録されたか」を知る権利

医療現場での AI の役割は「効率化ツール」から「医学的責任を共有するパートナー」へ進化しつつあります。その過程で、信頼性の確保は運用上の選択肢ではなく、法的・倫理的な必須要件となっていくでしょう。