虎嗅

谁在解释世界?

该文章尚未提供 Deutsch 解读,以下为中文版内容。

核心内容总结

这篇文章通过医疗领域的AI实验,揭示了生成式AI对社会权威结构的深层影响:AI提供的“定向建议”(有明确倾向的行动指导)正在打破传统专家(如医生)对“解释世界、给出判断、承担责任”的捆绑垄断。具体来说,AI让普通人能以近乎零成本获得专业级解释,但这些解释的方向(比如劝谨慎用药、推荐检查)并非中立,而是由模型背后的责任结构、商业利益等制度安排决定;同时,AI不承担最终裁决和法律责任,这些仍由传统专家(如签字的医生)扛着。这种“解释权下沉给用户、生产权集中到少数模型、裁决权留在专业节点、责任压给签字人”的分离,正在重塑社会信任和权威分配,带来一系列需要解决的宪制问题(如责任匹配、方向透明、多元解释)。

详细拆解

1. AI建议为啥“不中立”?——定向性是躲不开的

你可能觉得AI给建议是客观的,但其实只要它从“说事实”变成“给行动指导”,就必须有倾向。比如问“该不该吃阿司匹林”,AI要么让你“先问医生”(保守),要么说“可以自己判断”(激进),不可能两边都不沾——甚至“两边都说说”本身也是一种立场(让你自己选)。

这种方向从哪来?不是用户提示的,而是模型的“出身”决定的:训练数据、安全规则、开发者怕担责的心理。比如医疗AI推荐检查几乎没风险(出问题也怪医生判断),但推荐用药可能惹官司,所以模型会倾向让你多做检查、少随便吃药。你以为得到的是“知识”,其实是被一套责任规则过滤后的结果。

2. 传统专家靠啥“镇住”你?——捆绑的权威束

以前看医生,你为啥信他?不是因为你验证过他的知识(比如手术该不该做,你没法事后证明),而是他身上捆着一堆“信任凭证”:考过执照、有医院背书、出了事要负责。这些东西合起来叫“权威束”——包含三个权力:定义问题(你得的是啥病)、解释因果(为啥会生病)、规定行动(该吃啥药)。

这种“捆绑”解决了一个大问题:医疗是“信用品”——你用了也不知道服务好不好(比如手术做了病好了,但你不知道是不是必须做)。专家的租金(额外收入)就来自这种“没法验证”的信息差。

3. AI来了,专家的“权威束”被拆了——稀缺性转移

AI把“解释”的成本压到几乎为零:半夜两点问它症状,它耐心回答,还不收费。但稀缺性没消失,只是变了:以前缺的是“意见”,现在缺的是“判断意见对错、承担后果”的能力。

具体变化是:

  • 解释权:用户能免费拿到(下沉),但生产解释的是少数几个模型(集中)——亿万人用的AI解释可能都来自同一个源头;
  • 裁决权:还是专家的(比如医生签字开药),但他们的选择范围已经被AI预先影响了(比如病人带着AI的建议来,医生不得不考虑);
  • 责任:全压在最后签字的人身上(比如AI劝你做检查,医生签字了,出问题还是医生担责)。

所以专家的价值从“知道答案”变成“敢担责任”——那些只需要解释、不需要签字的工作(比如咨询、基层答疑)会越来越便宜,而需要签字的(处方、出庭)会越来越贵。

4. 医疗实验里看到的“真实改变”——三个关键发现

文章做了个随机实验:一半病人就诊前用AI助手,一半不用。结果很直观:

  • AI的方向影响行为:用AI的病人,第二天就诊时开药少了(AI劝谨慎用药)、检查多了(AI推荐检查);
  • 医生受影响的差异:愿意听病人意见的医生,和原本开药激进的医生,改变最明显——说明AI确实影响了医生的决策;
  • 信任变薄:用AI的病人对医生的依从性(听话程度)和满意度都下降了——因为他们有了“免费第二意见”,不再完全信任医生了。

这些结果说明:AI没抢走医生的裁决权,但已经悄悄改变了病人的认知和医生的选择空间。

5. 这事不只是医疗——社会层面的“宪制难题”

AI的定向建议不只是医疗问题,它涉及整个社会的权威分配。文章提出三个必须解决的问题:

  • 责任要匹配:AI大规模影响人的行动,该不该承担责任?不能让最后签字的医生扛所有锅。比如可以要求AI在高风险领域必须有人类签字,但要平衡责任重量;
  • 方向要透明:用户有权知道AI的倾向是为谁考虑的——是为了用户健康,还是为了开发者免责?不用公开算法,只要像食品配料表一样,说明“这个建议偏向保守是因为避免法律风险”;
  • 避免单一解释入口:如果所有人都用同一个AI模型,它的方向会变成社会的默认认知,这很危险。需要多个有不同方向的模型竞争,防止单一权威垄断。

最后,文章呼吁做“方向审计”——定期检查AI模型的倾向(比如它是不是总是劝人买保险),这样才能监督AI的影响。

一句话收尾

AI给我们带来了前所未有的解释便利,但也让“解释世界的人、做决定的人、担责任的人”第一次大规模分离。这个时代不是没有权威,而是我们不知道权威藏在哪个模型里——这才是最需要警惕的。