医療用AIが患者の命を誤判定する恐れ

医療現場で使用されるAIの信頼性に関して、衝撃的な研究結果が報告された。インドのCRASH Labが開発した放射線画像診断用ベンチマーク「RadLE 2.0」は、現在利用可能なほぼすべてのAIモデルが、医学的に危険な性質を持つことを明らかにした。

誤診でも自信満々——AIの最大の弱点

RadLE 2.0の評価システムは単純ながら、医療の現実を反映している。正解をした場合と不正解をした場合で、AIの信頼度スコアを比較するものだ。ここで判明したのは、多くのAIが「間違った答えを高い信頼度で示す」ということだ。

ベンチマーク結果（2,000点満点）：

  • 人間の放射線科医：988.7点
  • Claude Fable 5：758点
  • その他のモデル：さらに低いスコア

Claude Fable 5が比較的良好なのは、診断を躊躇う傾向が強いからだ。つまり「確実でない場合は答えない」という戦略が、スコアを押し上げた。

一方、他のモデル、特にオープンソースや医療向けとして設計されたモデルは、ほぼすべてのケースで診断を試みてしまう。そして間違ったまま「確信を持って」答えるのだ。

医療現場での「Google Maps効果」

すでに現実世界では、AIの誤信頼による問題が報告されている。2025年のポーランドの研究では、医師が大腸内視鏡検査の際にAIに頼ると、医師自身の病変検出能力が低下することが判明した。いわば「Google Maps効果」——AIに判断を任せることで、医師自身の診断力が鈍化するという現象だ。

患者としてみれば、AIが「確実だ」と答えた診断を医師が信じ込んでしまい、それが誤診であるリスクが高まるということになる。

Geoffrey Hintond の予言は外れた

2016年、深層学習の大家Geoffrey Hintonは「放射線科医は5年以内に職を失うだろう」と予言した。だが現実は異なる。むしろ、放射線科医の判断の微妙さが、AIが代替できない領域であることが明らかになってきた。

AIは単純な「正確さ」では人間に迫るかもしれない。だが、医療に必要な「不確実性の認識」と「慎重さ」では、人間の方がはるかに優れている。

医療AIの導入に求められる姿勢

RadLE 2.0の結果が示唆するのは、医療現場にAIを導入する際の必須条件だ。

AIが独立的に診断を下すシステムは、現段階では不適切だ。AIはあくまで「医師の判断を支援するツール」に止まるべき。むしろ、AIが「自分が答えられない領域」を正しく認識し、医師に判断を委譲できるシステムが求められている。

言い換えれば、過度な自信は医療ほど危険な場面はないのだ。AIが学ぶべき第一の教訓は、謙虚さである。