医療AIの規制：医師の臨床免許に類する新経路の提案
医療AIツールの普及が進む中、その規制監督の不足が問題視されています。ペンシルベニア大学のEric Bressman博士らは、JAMA Internal Medicine誌で、医師の臨床免許取得プロセスに似た新たなAI規制経路の創設を提案しました。
現状の課題と既存規制の限界
医師の免許取得には、医科大学、インターンシップ、レジデンシー、フェローシップ、筆記試験、継続教育など、長く厳格な道のりがあります。しかし、現在の医療AIツールは広く利用されているにもかかわらず、実質的な規制監督を「すり抜けている」とBressman博士は指摘します。
FDAの既存経路（SaMD）: 心臓ペースメーカーや車椅子といった医療機器、さらにはECG解析ソフトウェアなどの「Software as a Medical Device (SaMD)」経路で規制されてきました。これらは特定の用途向けに開発されたAI製品にはある程度機能していました。
新しいAI（LLM）の登場: しかし、Open EvidenceやアンビエントAIスクライブのような大規模言語モデル（LLM）は、その用途が広範であり、患者のプライバシー侵害、誤診、更新による機能の変化、アルゴリズムのバイアス、意思決定プロセスの不透明性といった新たなリスクをもたらす可能性があります。
「低リスク」分類の抜け穴: 2016年の21世紀Cures法により、低リスクとされるソフトウェア（例：臨床意思決定支援）は医療機器としての規制から除外されましたが、ほとんどのAIプラットフォームがこの分類を利用しており、患者が保護されない危険性があります。
提案される「AIの臨床免許」経路
Bressman博士が提案するフレームワークは、現在のFDA承認経路の代替案として、AIに「医師の臨床免許」に類似したプロセスを適用することです。
訓練: AIモデルの訓練を医科大学に相当。
監督下での展開: ツールを厳密な監督下で展開することをインターンシップやレジデンシーに相当。これにより、AIモデルは患者に適用される前にスキルを完璧にすることができます。
試験と継続教育: 特定の試験の合格と、モデルが意図された目的から逸脱しないための継続的な臨床教育の義務付け。
この提案は、AIがリリースされた後の「より堅牢な監視」を重視しており、これはFDAの現在の強みではないとされています。
課題と今後の展望
この野心的な提案には多くの課題と抵抗が予想されます。
AIの思考様式の違い: AIは人間のように「思考」しないため、既存の医師認定試験を単純に適用するのではなく、AIに特化した適切なテストの開発が必要です。
「脆いフロンティア」: AIモデルが特定のテストでは非常に優れても、別のテストでは失敗する可能性がある「脆いフロンティア」を考慮した評価が求められます。
複合的な規制: 全ての医療AIツールに一つの規制で対応することは難しく、訴訟などを通じて段階的に安全策が蓄積される可能性も指摘されています。
技術の速度と規制の乖離: 技術の急速な進化に対し、規制プロセスの遅さが懸念されています。
イノベーションを阻害せず、安全かつ慎重に前進するための許容可能なフレームワークを構築することが不可欠であると、専門家は強調しています。