医療AI規制に関する国家委員会の報告書：安全で信頼できるAI活用へ44の提言
医療におけるAI規制に関する国家委員会は、NHSにおけるAIツールの「安全、迅速、信頼できる」展開システム構築に向けた報告書を発表しました。この報告書は、医薬品・医療製品規制庁（MHRA）の委託を受けて作成され、現在の医療AI規制枠組みが、従来の医療機器向けに設定されているため、AIには不十分であると結論付けています。
12,000人以上の患者、臨床医、AI開発者からのフィードバックに基づき、報告書は英国の医療提供においてAIが不可欠な部分となるよう、枠組みを更新するための44の提言を行っています。MHRAの最高責任者であるローレンス・タロン氏は、「AIがケアを加速・改善し、臨床医の時間を患者との人間的な側面に解放する機会があることを明確に聞いています」と述べ、現代的で動的な規制枠組みが安全な導入を加速し、患者を保護し、国民と専門家の信頼を得るために不可欠であると強調しました。
主要な提言
報告書には以下の点が挙げられています。
- 段階的承認：学習者ドライバーの「Lプレート」のように、AI技術を管理された環境でテストしてから広く展開することを許可する。
- 継続的なライフサイクル監視：一回限りの承認から、AIの有効性が時間とともに低下したり、安全でなくなったりした場合に迅速に撤回できる経路を持つ、継続的な監視への移行。
- 責任法の強化：AIが問題を引き起こした場合に開発者を罰するための責任法とシステムのアップグレード、より厳しい罰則の適用、および有害事象報告システムのAI技術への対応。
- 患者の権利と情報公開：患者がAIがいつ、どのようにケアに積極的に使用されているかを知る権利を持つこと、およびモデルに関する情報が検索可能なデータベースを通じて一般に公開されること。
- 人間の監督：AIは人間の監督を増強するものであり、代替しないこと。最終的な臨床判断は常に医療専門家によって行われるべきであること。
報告書の著者であるバーミンガム大学のアリスター・デニストン教授は、「AIを含む新しいイノベーションは、その場所と信頼を勝ち取る必要があります」と述べ、人々はAIが安全で、人間が監督し、いつ使用されているかを知っている場合にのみ、ケアの改善に前向きであると付け加えました。
HSSIBによる歓迎と関連調査
保健・社会福祉省の外郭団体である保健サービス安全調査機関（HSSIB）は、この新しい文書を歓迎し、イノベーションと患者の安全性、国民の信頼、効果的な監督とのバランスの必要性を反映していると述べました。HSSIBは最近、アンビエント音声技術（AVT）に関する調査を開始しており、これはNHSで臨床会話の要約や文書作成のために急速に導入されていますが、エラー、幻覚、データプライバシーの問題を検出するための報告・監視システムが整備されていないという懸念が示されています。