医療AIの責任問題：WHO欧州地域の現状と課題
世界保健機関（WHO）欧州地域事務局が発表した新たな報告書によると、WHO欧州地域の国々のうち、AIツールが医療現場で間違いを犯したり、害を引き起こしたりした場合の責任を決定する基準を持つ国はわずか8%（4カ国）に過ぎません。これらの国の中で、WHOの基準に従って完全な責任基準を持つのはロシアの1カ国のみで、スペイン、ベルギー、スウェーデンでは基準が存在するものの不完全です。
法的インフラの欠如とAI利用のギャップ
この法的インフラの欠如は、欧州地域の国々の3分の2が診断にAIを使用し、半数が患者サポートにAIチャットボットを使用している時期に生じています。ウプサラ大学のデジタルヘルス准教授であり、著書もあるCharlotte Blease博士は、「AIは急速に進歩しているが、私たちのリテラシーと法律はまだ追いついていない」と指摘しています。WHO欧州が調査した国々の92%が、責任規則が医療におけるAIの広範な導入を促進すると回答しており、10カ国中9カ国が透明性、検証可能性、説明可能性に関するガイダンスも役立つと考えています。WHO欧州地域ディレクターのHans Kluge博士は、明確な基準、特に責任に関する基準の欠如が、臨床医のAIへの依存を躊躇させたり、過度に依存させたりする可能性があり、患者の安全リスクを高めると述べています。
責任の所在を決定する難しさ
医療AIにおける責任基準を策定する上での主要な問題は、「責任のギャップ」にあります。ブダペスト工科経済大学のMihály Héder博士は、システムが意思決定を行うことは、社会が道徳的な主体とは考えていないため、法的に責任を負う主体ではないと説明しています。したがって、責任は別の場所に割り当てられる必要があり、この再分配は決して容易ではありません。
Blease博士は、医療におけるAIの間違いは単一の犯人を生み出すのではなく、システム開発者、導入した病院、およびそれを使用した臨床医の間で責任が共有されるだろうと述べています。課題は、それぞれの責任の度合いを決定することにあります。Kluge博士は、ニューラルネットワークや深層学習モデルが時間とともに適応するため、従来の製品責任フレームワークを適用することが難しいと付け加えています。また、「多くの手の問題」により、多数の貢献者が関与するAI開発において、特定の行為者に損害をたどることも困難です。さらに、多くの高度なアルゴリズムは「ブラックボックス」として機能し、臨床医や規制当局が入力データがどのように臨床的決定につながるかを理解できないため、アカウンタビリティが複雑になり、損害の検出が曖昧になり、影響を受けた個人への補償が制限されます。
今後の展望とEU AI Act
2024年7月12日、EUは世界初のAIに関する法的枠組みであるEU AI Actを公布しました。これは医療AIアプリケーションを「高リスク」と定義し、安全性、データ品質、人間の監督、透明性に関する厳格な基準を満たす必要があると定めています。ただし、これらの高リスクAIアプリケーションに対する具体的な規則は、2026年8月と2027年8月に施行される予定です。
Blease博士は、ほとんどの国がまだ医療向けのAI固有の責任規則を持たないため、法務機関が現在のインフラを使用してAIによる間違いに対処することを選択する可能性があると指摘しています。例えば、スウェーデンでは、AI関連のケースは「無過失患者傷害システム」を通じて処理され、患者にまず補償を行い、後で責任を処理します。
Blease博士は、AIがデジタルフットプリントと明確な技術標準を持つため、人間の医師よりも「尋問」しやすいという楽観的な見方も示しています。これにより、AIアプリケーションが人間のアカウンタビリティを明確にするために使用され、臨床医がガイダンスを無視したり、ツールを適切に使用しなかったりした場合を浮き彫りにする可能性があると述べています。WHO欧州は現在、地域的な医療AIロードマップの最善の道筋について加盟国と協議中です。