第一财经

科普|美国AI手术导航医疗事故频现,有患者颅底被刺穿

该文章尚未提供 Français 解读,以下为中文版内容。

核心内容总结

AI技术越来越多地用到医疗设备里,但相关事故也跟着变多了。美国FDA记录了上百起AI医疗设备引发的不良事件,涉及鼻窦炎手术导航、心脏监护仪、产前超声等设备;患者因此起诉企业,但企业大多不认账(说没证据是AI的锅、或用户操作错了);专家和监管层都头疼责任认定——毕竟AI是辅助,但医生得拍板;另外AI大模型(比如帮医生写病历的)也带来新风险,输入错了AI会瞎编,锅还是医生背。

详细拆解解读

#### 1. 哪些AI医疗设备掉链子了?

新闻里点名的有三类设备,事故都挺吓人:

  • 鼻窦炎手术导航仪:强生以前的子公司Acclarent做的,2021年加了AI导航后,至少10人受伤。比如AI告诉医生器械位置错了,导致病人脑脊液从鼻子漏出来(相当于脑子和鼻子通了)、颅底被刺穿(脑袋底部穿了个洞),还有两人中风后起诉。
  • AI心脏监护仪:美敦力的,至少16次没识别出异常心律——本来该警报的没响,可能耽误抢救。
  • 产前超声AI软件:三星子公司的,会认错胎儿身体部位(比如把胳膊当腿?),不过三星说没造成安全事故。

FDA还提到,其他AI设备也有几十份不良报告,说明不是个别问题。

#### 2. 企业:这锅我们不背!

面对投诉和诉讼,企业的回应套路差不多:

  • Acclarent(现在归Integra):说“只是手术用了AI,但没证据证明是AI导致受伤”——意思是巧合,不是技术问题。
  • 美敦力:甩锅给用户“操作不当”——比如医生没按说明书用,不是AI本身错。
  • 三星麦迪逊:轻描淡写“没造成安全事故,FDA也没让我们整改”——潜台词是小事一桩。

总结:企业都想把责任推出去,要么说“没因果”,要么说“别人的错”。

#### 3. 出了事谁背锅?医生还是AI?

这是最核心的争议点:

  • 患者视角:我用了你的AI设备受伤,肯定找企业赔。
  • 企业视角:AI是辅助工具,医生才是决策者,不能全怪我们。
  • 专家视角:多位医生说,AI再厉害也是辅助,医生得负责。比如葛均波院士说,AI会“胡说八道”(输入错了就跟着错),但责任还是医生的——因为你是最后拍板的人,不能懒到全信AI。

现在法律和监管还没明确标准:比如AI导航出错,是企业没测试好?还是医生依赖过度?这锅不好分。

#### 4. AI大模型进医院,新坑在哪?

除了手术导航这类硬件,AI大模型(比如ChatGPT类的)也开始帮医生干活,比如自动转录病历——医生说的话,AI直接写成文字,省时间。但风险更大:

  • 葛院士举的例子:如果AI转录时把“高血压”写成“低血压”,医生没检查就用了,开错药出了事,责任还是医生的。
  • AI的“瞎编”属性:大模型会“一本正经地胡说”,比如病人没糖尿病,AI可能因为训练数据里类似病例多,就硬加进去——医生要是没发现,就坑了。

所以专家反复说:医生不能当甩手掌柜,得做AI的“把关人”。

#### 5. 监管和行业:按下葫芦浮起瓢?

美国FDA已经批准了上千种AI医疗设备,但事故越来越多,暴露两个大问题:

  • 监管跟不上技术:AI是“活的”(有些会自我学习更新),但FDA批准时可能只看当时的版本,后续更新会不会出问题?没人盯着。
  • 责任认定无标准:现在出了事,患者、企业、医生互相推,法律上没明确谁该担责。比如AI导航的算法bug,是企业的责任吗?还是医生没校准?

这说明AI医疗不是“越智能越好”,得先把安全和责任的规则立起来,不然技术跑得越快,坑越大。

最后一句话总结

AI进医疗是好事,但别把它当“神医”——技术再牛,也得有人(医生、企业、监管)盯着,不然救命的工具可能变成害人的“凶器”。