虎嗅

一份美国200家医院共识的AI治理框架,中国医院可否借鉴?

核心内容总结

美国200家顶尖医疗机构(如梅奥诊所、麻省总医院)和科技公司组成的CHAI联盟,发布了全球最系统的医疗AI治理操作手册。这份手册把医疗AI治理拆成“政策+组织架构+资源+流程”四个核心板块,重点提出“风险分级管理”逻辑(精准管控高风险AI,疏堵结合处理员工偷偷用的“影子AI”),对中国医院的借鉴价值在于补全AI治理流程、规范第三方供应商合作、落实患者知情权,且手册实操性极强(有模板、分大小医院路径),基于真实医疗AI失败案例制定。

一、CHAI框架:不是喊口号,是“谁来做、怎么做”的具体清单

这份框架把医疗AI治理从“虚的理念”变成“可落地的动作”。核心是四个板块:

1. 政策:不是说“要负责任用AI”,而是明确:什么算AI(ChatGPT、电子病历里的AI功能都算吗?)、AI项目审批流程怎么走、谁监督政策更新;

2. 组织架构:必须建AI治理委员会(不能挂名),要明确“谁负责干活、谁拍板、谁提意见、谁得知道”(专业词叫RACI矩阵,大白话就是分工清晰);

3. 资源:要配专门的人、钱、技术支持AI治理;

4. 流程:覆盖AI全生命周期(从选AI、测试、上线到淘汰)、风险评估、数据管理、第三方合作、员工培训。

一句话:AI治理不是技术问题,是“怎么组织人、定规矩”的管理问题。

二、风险分级:不搞一刀切,把力气花在刀刃上

最值得学的是“精准管AI”逻辑:

  • 第一步:风险分类:把所有AI分成低/中/高风险。比如医生用AI写病历是低风险,AI辅助诊断癌症是高风险;
  • 第二步:高风险额外评估:高风险AI要详细算“出错概率”和“伤害程度”;
  • 第三步:系统影响评估:不光看技术风险,还要看AI会不会打乱医生工作流程、影响患者体验、有没有公平性问题(比如AI对老人/少数族裔不准)。

对“影子AI”(员工偷偷用的ChatGPT等工具),框架建议“疏比堵好”:建快速审批通道,让合规使用比偷偷用更方便——比如医生想用AI写病历,走快速通道5分钟就能批,谁还偷偷用?

三、中国医院最该补的三个短板

1. 缺全生命周期治理:很多医院买了七八个AI系统,但没人定期检查“这AI在我们医院患者身上准不准”。框架里要求从选AI到淘汰,每一步都有“决策关卡”——比如上线前要测试、上线后要持续监控,不行就淘汰;

2. 第三方供应商管理太松:和AI公司签合同时,要加这些条款:必须说清楚AI的缺点、数据不能随便用、医院有权审计、不用了要还数据;

3. 患者知情权空白:框架要求医院第一次见患者时,要告诉对方“你的数据可能会被AI用”,还得给退出选项(比如患者不想让AI分析自己的病历)——这不是美国标准超前,是医疗伦理的底线。

四、这份框架为啥靠谱?

1. 临床机构主导:不是政府或协会拍脑袋写的,是200家医院和科技公司一起商量的,懂实际临床需求;

2. 实操性强:每个环节都有“ step by step”指南,还有模板(比如风险评估表),小社区医院和梅奥诊所都能用,只是落地深度不同;

3. 基于真实教训:手册里引用了很多医疗AI失败案例(比如AI误诊、打乱工作流),说明治理不是“锦上添花”,是防止出大事的底线。

最后一句话:AI治理不是让AI慢下来,是让有用的AI更快上线,让危险的AI早点停下。中国医院早学早受益。