虎嗅

人无完人之后:商业系统为什么也该接受「不完美主体」

你好!我是你的财经分析助手。这篇文章虽然标题听起来有点哲学味,但它其实戳中了当前企业数字化转型,特别是AI落地过程中最痛的一个点:我们太迷信“身份认证”,而忽略了“行为控制”。

为了让你轻松看懂这篇长文,我把它拆解成五个核心部分,用大白话给你讲清楚这背后的商业逻辑。

---

核心总结:别只问“他是谁”,要问“他在干嘛”

这篇文章的核心观点非常犀利:传统的企业管理和IT系统,一直建立在“只要这个人/这个程序身份合法、权限正确,那么他做的每一件事就是对的”这个假设上。但在AI时代,这个假设崩塌了。

因为AI(Agent)拥有机器的速度和规模,它犯错的速度远超人类发现错误的速度。所以,未来的企业安全不能靠“信任某个完美的人或机器”,而要靠设计一套能容忍错误、限制破坏范围的“结构”。简单说,就是要把关注点从“谁有权”转移到“什么事能发生”。

---

深度拆解:五个维度的通俗解读

1. 承认“人都会犯错”,才是高级的制度智慧

【原文观点】 成熟的制度不是奖励完美人格,而是承认人性有限。

【大白话解读】

小时候我们觉得“人无完人”是宽容,长大了才发现这是风控。

你看医院,医生再资深,开药也要药师复核;飞行员再老练,起飞前也要走检查清单。为什么?因为制度防的不仅仅是坏人,更是累坏了的人、看走眼的人、信息不全的人。

如果一个公司要求每个员工、每个管理员都永远清醒、永远理性,那这个公司早就垮了。真正厉害的公司,是默认“每个人都会在某一刻犯傻”,然后设计流程来兜底。

结论: 不完美不可怕,可怕的是你的系统建立在“所有人都不犯错”这个脆弱假设上。

2. 错误本身不美,但“能扛住错误”的结构很美

【原文观点】 不要赞美缺陷,要赞美容纳缺陷的结构之美。

【大白话解读】

别搞什么“残缺美”那一套,转账转错了就是错了,生产事故就是事故,没人会因此觉得浪漫。

但是,桥梁为什么稳?不是因为它相信钢材永不疲劳,而是因为它设计了冗余。数据库为什么稳?不是因为它相信每次写入都成功,而是因为它有回滚机制。

关键思维转变:

  • 旧思维: 怎么让主体(人/机器)绝不犯错?(这是追求完美,很难实现)
  • 新思维: 如果主体一定会犯错,我的系统怎么设计才能让它很难一次穿透所有防线?(这是追求韧性,更现实)

结论: 真正的安全,不是消灭不确定性,而是给不确定性留个“笼子”,让它跑不出去。

3. 现在的系统有个大Bug:合法 ≠ 正确

【原文观点】 身份解决“你是谁”,权限解决“你能不能做”,但没解决“你这次该不该做”。

【大白话解读】

这是文章最扎心的部分。现在的企业IT系统,核心就是发“身份证”和“门禁卡”。

  • CFO有权限打款(身份合法,权限合法)。
  • 但他手抖输错了账号,或者被钓鱼骗了,这笔款打出去就是错的。
  • 系统只认“你是CFO”,不认“这笔款打给这个陌生人是不是合理的”。

过去,这种漏洞靠“人肉摩擦”来堵:开会、打电话确认、签字、等待。这些看似低效的流程,其实是安全缓冲带。

但现在,AI来了,它不需要开会,不需要打电话,它直接执行。那些原本用来缓冲错误的“低效流程”被AI的高效抹平了,漏洞就暴露出来了。

结论: 合法主体,不等于正确行动。现在的系统太容易把“有资格”当成“做对了”。

4. AI没发明错误,但它给错误装了“火箭推进器”

【原文观点】 AI让不完美主体拥有了机器的速度、规模和连续性。

【大白话解读】

以前人犯错,一天也就错那么几次,而且错了要停下来想,错误扩散得慢,老板还有时间发现并叫停。

现在AI Agent(智能体)不一样:

  • 速度快: 几秒内完成人几小时的复盘动作。
  • 规模大: 同时操作成千上万个账户。
  • 自主性强: 它做完一步,看结果,再规划下一步,自动进入下一轮。

这就导致了一个恐怖的局面:错误扩散的速度,第一次系统性地超过了人类观察和纠错的速度。

以前我们可以说“反正最后有人盯着(Human-in-the-Loop)”,现在人根本盯不过来。如果AI在3秒内把公司账户清空,你3小时后才发现,那就晚了。

结论: AI最大的风险不是它“笨”,而是它“快”且“不知疲倦”。它让错误拥有了机器的速度。

5. 未来企业的核心竞争力:从“信人”到“信结构”

【原文观点】 从管理Identity(身份)转向管理Action(行动)、State(状态)、Boundary(边界)。

【大白话解读】

这是给CEO和CTO的终极建议。

以前的管理逻辑是:“因为是他(可信的人/系统),所以可以。”

未来的管理逻辑必须是:“因为这一次行动符合边界、状态正确、证据充分,所以可以。”

这意味着企业需要建立一种新的“可信结构”:

1. 分离判断与执行: 让AI做执行,但让另一个机制(或人)做判断。

2. 限制作用边界: 即使你是最高权限的AI,你也只能在特定范围内活动,不能越界。

3. 验证现实状态: 每次行动前,系统要确认“现在的现实情况”是否支持这个动作(比如:库存真的够吗?账户余额真的够吗?)。

4. 保留否决权: 无论谁,只要触发红线,系统必须能一键刹车。

商业启示:

当所有公司都能买到同样的大模型(AI能力变成基础水电煤)时,谁敢让AI真正干活,同时又能保证不出大事,谁就赢了。

这需要一种更激进的自动化哲学:我不要求AI完美,但我设计了一个结构,保证它即使不完美,也不会把公司搞垮。

---

给普通人的启示

1. 对于职场人: 不要指望靠“我这个人很靠谱”来保住饭碗。未来,你的价值在于你能否设计出“即使我犯错了,系统也能兜底”的流程。

2. 对于创业者/管理者: 检查你的公司流程。如果你们的安全全靠“老板盯着”或“老员工细心”,那在AI时代非常危险。你需要投资那些能监控行为、限制权限范围、自动校验状态的技术架构。

3. 对于投资者: 关注那些不仅提供AI能力,更提供“AI安全护栏”、“行为审计”、“自动化风控”的公司。未来的护城河不是模型多聪明,而是“结构多稳健”。

一句话总结:

人无完人,机器无完机。未来的商业世界,不奖励“永不犯错的神”,只奖励“能容纳错误的网”。