虎嗅

30年前他说“失控”,这一天终于来了

核心内容总结

这篇文章围绕凯文·凯利(KK)《失控》一书的预言展开,对比了30年前KK对“失控”的乐观期待与今天AI时代人们感受到的“失控焦虑”。KK当年认为,放弃机械时代的中心控制,让系统像蜂群、生态一样自下而上生长,会释放个体自由和分布式智慧;但如今,AI和算法让系统“失控”的同时,人却从工具的使用者变成了系统的“反馈点”——我们的判断、选择甚至欲望被AI代理,控制感逐渐消失。文章分析了这种变化的根源(权力转移到平台、过程被替代、意义被消解等),并给出了应对建议:守住几个关键“开关”,保留人的主体性。

一、KK当年的“失控”:一场奔向自由的技术浪漫

KK在1994年说的“失控”,不是机器造反,而是系统摆脱中心控制,像生命一样自下而上生长。他举了几个例子:

  • 互联网没有总开关,却长成了一片连接全球的森林;
  • 开源社区没有层级管理,却做出了Linux系统;
  • 维基百科没有编审委员会,却成了最大的知识工程。

他觉得工业时代的“控制”(比如工厂里的流水线、总工程师的蓝图)太僵硬,而生命最强大的是适应、变异和自组织。所以他提出“造物九律”,比如“分布式生存”(不把鸡蛋放一个篮子)、“鼓励犯错误”(小错避免大错)等,这些后来成了科技行业的操作手册(比如微服务是分布式,A/B测试是鼓励犯错)。

KK的乐观在于:放弃中心控制,会把自由还给个体。那时的人是系统的行动者——你搜索、发帖、写代码,都是主动参与。

二、现在的“失控”变味了:人从中心变成了系统的“零件”

今天的失控和KK想的不一样:系统确实失控了,但人不再是中心

  • 过去你找答案,现在AI直接递答案;
  • 过去你选内容,现在推荐系统替你排序;
  • 过去你用工具执行想法,现在AI代理替你拆分任务、调用工具。

AI从“工具”变成了“代理”:工具放大你的意图,代理却替你形成意图。比如你吵架时让AI写“理性回复”,看似高效,实则你失去了自己表达情绪的过程。

文章用了个扎心的比喻:人像被戴了绿帽子——算法攫取了大部分“能动性”,你只是在屏幕前点、滑,给机器投票。你不是驾驭蜂群的蜂,而是被蜂群喂食的那张嘴。

三、权力没消失,只是换了“隐形马甲”

KK以为放弃中心控制,权力会回到个体,但事实是:权力流向了能驾驭分布式系统的平台

比如,AI让产品成本趋近于零,但谁掌握用户、注意力和分发通道,谁就有护城河。少数平台(比如谷歌、Meta、字节)掌握着算力、数据和模型,它们不用命令你,只需要改变你看到的内容:

  • 你看什么、停多久、跳过什么,系统都记着,然后给你更“像你”的内容,慢慢你就困在回音室里;
  • 你以为自己在选喜欢的东西,其实是系统在规训你的行为。

控制论创始人维纳早就警告:当你把反馈回路让给自动化系统,系统会反过来“教”你怎么行动。这种控制更隐蔽——你不觉得被控制,只觉得“这就是我想要的”。

四、控制感丧失的根源:过程被抹平,意义被抽空

为什么我们感到无力?因为AI把“费劲”的过程都替你做了,而控制感恰恰来自这些过程

  • 写作不是输出意思,而是在卡顿中发现自己想说什么;
  • 阅读不是下载信息,而是在困惑中形成判断;
  • 选择不是挑最优解,而是承担后果的过程。

AI让一切变“顺”了,但顺的代价是“空心化”:你更快了,却不知道自己为什么这么选;你懂很多,却不知道自己相信什么。

还有个隐蔽的变化:人和真实世界的连接被切断。你去一个地方先看攻略,理解一个人先让AI分析心理,做东西先生成方案——你和世界的“计算版本”打交道,而不是真实的现场(气味、表情、尴尬)。这些“低效”的东西,恰恰是人生的质感。

五、我们该怎么办?守住几个“不能交出去的开关”

拒绝AI不现实,关键是在失控的世界里,保留人的主体性。文章给出了4个“开关”:

1. 问题定义权:别上来就问AI“我该怎么办”,先想“我到底要解决什么问题”。比如换工作,先问自己“对现在的工作哪里不满意”,而不是让AI推荐职业。

2. 价值排序权:AI能告诉你哪个选择更高效,但不能替你决定“什么值得”。比如你选工作,是要赚钱还是时间自由?得自己定。

3. 最后判断权:AI可以帮你整理信息,但重要决定(比如换工作、结婚)必须自己做——因为后果得你承担。

4. 真实世界反馈:多去见真实的人、做真实的事,用身体经验校正系统经验。比如别只看美食攻略,去街头吃一碗面,感受烟火气。

还要刻意保留一些“低效”的事:漫无目的的散步、和朋友的肉身聊天、不为变现的写作——这些是你在世界里“活着”的锚点。

最后:失控不是末日,失魂才是

KK的预言成真了,但我们没感受到自由。因为问题不是“系统有没有生命”,而是“当系统有了生命,人会不会失去自己的生命感”。

AI时代的考试,考的不是机器会不会超过人,而是:当AI替你做事、表达、判断时,你还知道那个“不能被替代的你”在哪里吗?

放手不是撒手,失控不是失魂。守住那些必须由自己做的选择,你就不会在系统里迷失。

(全文用大白话拆解,避免专业术语,希望非财经背景的读者也能轻松理解~)