虎嗅

AI时代,从零信任走向对抗性完整

该文章尚未提供 Français 解读,以下为中文版内容。

核心内容总结

这篇文章讲了AI时代企业安全的新挑战:过去靠“零信任”(每次访问都验证身份、权限)就能防住大部分风险,但AI能直接操作现实系统(转账、停机、调度等),跳过人类核对的缓冲环节,导致“合法但错误”的执行(比如账号权限都对,但AI转错账户)。因此需要一种新的安全思路——“对抗性完整”,它不假设系统每个环节都完美,而是确保即使中间出错,最终执行结果也不会失控。零信任和对抗性完整不是替代关系,前者管“谁能访问”,后者管“执行结果对不对”,安全焦点从“入口”转向“执行端”。

1. 零信任管“进门”,但AI时代“进门后干的事”更危险

零信任的核心是“不默认信任任何人”:不管你是谁,每次访问系统都要重新验证身份、设备、权限。比如财务人员要转账,零信任会确认他的账号是真的、手机没中毒、有付款权限。但AI出现后,问题变了——AI会直接生成操作参数(比如转账金额、账户),调用系统接口,跳过人类手动核对的步骤。零信任只能证明“这个人有资格转账”,却无法判断“这次转账的账户和金额对不对”,这就是它的盲区。

2. “合法的错误”:比黑客入侵更隐蔽的风险

AI带来的新型风险不是“非法入侵”(比如黑客偷账号),而是“合法但错误”的操作。举个例子:财务人员通过零信任验证,账号、权限、审批都没问题,但AI把收款账户换成了假的,或者金额输错了。每个环节单独审计都合规,但结果却是损失五百万。以前人操作时会逐字核对,但AI速度快、无延迟,错误会直接变成现实,而且很难追溯——因为所有步骤都“合法”。

3. 对抗性完整:假设系统会出错,然后限制后果

对抗性完整的思路很现实:它不追求“系统每个环节都绝对可信”(因为人会犯错、AI会误解、接口会被黑),而是设计一套规则,确保即使某个环节出问题,最终执行也不会造成大损失。比如转账时,不管谁发起、AI怎么处理,都必须满足几个硬条件:

  • 收款账户和审批时的一致吗?
  • 金额没超过授权范围?
  • 审批还没过期?
  • 有没有合同、验收单等证据?

只要有一个条件不满足,转账就不能执行。它不是要消除错误,而是把错误的影响锁在可控范围内。

4. 零信任和对抗性完整:搭档而非替代

很多人以为对抗性完整是零信任的升级版,其实不是。它们的控制对象不同:

  • 零信任控制“谁能使用系统能力”(比如谁能进财务系统);
  • 对抗性完整控制“什么结果能真正发生”(比如这次转账能不能落地)。

零信任的验证结果(身份、权限等)会作为对抗性完整的“证据”,但不是最终决定。比如财务人员通过零信任后,对抗性完整还要再检查转账的具体条件,确保没问题才执行。安全边界从“入口”(能不能进系统)迁移到“执行端”(执行结果对不对)。

5. 执行控制不用重做业务系统:把复杂业务简化成“硬条件”

有人担心执行控制要重做ERP、财务系统,其实不用。关键是把复杂业务转化为有限的、可验证的“硬条件”。比如一笔采购付款,不用管“这笔生意划不划算”,只需要验证:

  • 发起者是授权人员吗?
  • 收款账户和审批单上的一致吗?
  • 金额在审批范围内吗?
  • 审批没过期?
  • 有没有合同、验收单?

这些条件是固定的,容易检查,而且不会随着业务流程变化而无限增加。AI高频操作时,只有这种“硬条件”能跟得上速度。

最后一句话总结

AI时代的安全,不能只守“进门的门”,还要守“出门的门”——确保每个执行动作都符合预设规则,即使中间环节出错,也不会让错误变成现实中的损失。零信任管“谁能进”,对抗性完整管“进了之后干的事对不对”,两者结合才能应对AI带来的新风险。