まとめ
アメリカの200のトップ医療機関（メイオクリニック、マサチューセッツ総合病院など）とテクノロジー企業で構成されるCHAI連盟は、世界で最も包括的な医療AIガバナンスの実施マニュアルを発表しました。このマニュアルは、医療AIガバナンスを「政策」「組織構造」「リソース」「プロセス」の4つの核心部分に分けており、「リスク分類管理」というアプローチ（高リスクなAIを精密に管理し、従業員がこっそり使用する「シャドウAI」に対しては適切な対策を講じる）を重点的に提案しています。中国の病院にとっての参考価値は、AIガバナンスのプロセスを整備し、第三者サプライヤーとの協力関係を規範化し、患者のインフォームド・コンセントを実施する点にあります。また、このマニュアルは非常に実践的で（テンプレートが用意されており、病院の規模に応じたガイダンスもある）、実際の医療AIの失敗事例に基づいて作成されています。
1. CHAIフレームワーク：スローガンではなく、「誰が何をどのように行うか」の具体的な手順
このフレームワークにより、医療AIガバナンスは抽象的な概念から実際に実施可能なアクションへと変わります。核心は以下の4つの部分です：
1. 政策：単に「AIを責任を持って使用する」というだけでなく、何がAIに該当するか（ChatGPTや電子カルテ内のAI機能も含まれるのか）、AIプロジェクトの承認手続き、政策の更新を監督する責任者などを明確にします。
2. 組織構造：AIガバナンス委員会を設立する必要があり（名ばかりの委員会ではなく）、「誰が実際に作業を行い、決定を下し、意見を提出し、情報を共有するか」を明確にします（専門用語ではRACIマトリックスと呼ばれます）。
3. リソース：AIガバナンスのための専門の人材、資金、技術サポートを確保する必要があります。
4. プロセス：AIのライフサイクル全体（選定、テスト、導入、廃止）をカバーし、リスク評価、データ管理、第三者との協力、従業員トレーニングなどが含まれます。
要するに、AIガバナンスは技術的な問題ではなく、「人をどのように組織し、ルールを定めるか」という管理上の問題です。
2. リスク分類：一律の対応ではなく、効果的なリソースの投入
特に学ぶ価値があるのは「AIを精密に管理する」アプローチです：
- 第一段階：リスク分類：すべてのAIを低リスク・中リスク・高リスクに分類します。例えば、医師がAIを使ってカルテを作成する場合は低リスクであり、AIを用いた癌診断は高リスクです。
- 第二段階：高リスクの詳細評価：高リスクなAIについては、「エラー発生の可能性」と「被害の程度」を詳細に評価します。
- 第三段階：システムへの影響評価：技術的なリスクだけでなく、AIが医師の業務プロセスを乱すか、患者の体験に影響を与えるか、公平性の問題がないかも考慮します（例えば、高齢者やマイノリティに対して不公平な扱いがないか）。
「シャドウAI」（従業員がこっそり使用するChatGPTなど）については、「規制よりも利用を促す」方が効果的だと提案されています。迅速な承認プロセスを設けることで、合法的な使用が容易になります。例えば、医師がAIを使ってカルテを作成したい場合は迅速な承認を受けられ、そうすれば誰もこっそり使用する必要がなくなります。
3. 中国の病院が最も改善すべき3つの課題
1. ライフサイクル全体のガバナンスの欠如：多くの病院がAIシステムを導入しているものの、それらが患者に適切に機能しているか定期的にチェックする人がいません。このフレームワークでは、AIの選定から廃止までの各段階で意思決定が必要です（例えば、導入前のテストや導入後の継続的な監視、不適切な場合は廃止する）。
2. 第三者サプライヤー管理の緩さ：AI企業との契約時には、AIの欠点を明確にし、データの無断使用を防ぎ、病院がデータを返却できるようにするなどの条項を盛り込む必要があります。
3. 患者のインフォームド・コンセントの不足：フレームワークでは、初診時に患者に「あなたのデータがAIで使用される可能性があること」を伝え、データの利用を拒否するオプションを提供することが求められています。これはアメリカの基準が先進的だからではなく、医療倫理の基本です。
4. このフレームワークが信頼できる理由
1. 臨床機関主導：政府や協会が一方的に作成したものではなく、200の病院とテクノロジー企業が共同で検討した結果です。実際の臨床ニーズを理解しています。
2. 実践性：各プロセスに「ステップバイステップ」のガイドやテンプレートが用意されており、小規模な病院からメイオクリニックまで誰でも利用できます。ただし、実施の深さは異なります。
3. 実際の失敗事例に基づいている：マニュアルには多くの医療AIの失敗事例（誤診や業務プロセスの乱れなど）が引用されており、ガバナンスは単なる装飾ではなく、大きな問題を防ぐための基本となっています。
最後に、AIガバナンスの目的はAIの速度を遅らせることではなく、有用なAIをより迅速に導入し、危険なAIを早期に停止させることです。中国の病院は早くこの知識を取り入れるべきです。