虎嗅

AI 自我改进的底层逻辑:永动机,还是文明拐点?

核心内容总结

AI行业正押注一场“人类史上最大的科学赌注”——递归自我改进(RSI):即AI能自己设计、优化下一代模型,让投入的算力转化为指数级能力增长。但这场赌局充满不确定性:RSI概念60年没定义清楚,验证机制存在逻辑死结,闭式自我改进会导致模型坍缩,开放式依赖环境开放度,且当前行业投入远大于收入(如谷歌母公司现金流为负),处于“空气口袋”阶段。若RSI成真,人类角色可能从创造者变为环境要素甚至历史背景。

一、这场赌注:花的比赚的多,却停不下来

AI行业现在像在玩一场“停不下来的赌局”:

  • 投入惊人:全行业资本开支规模超过阿波罗登月、曼哈顿工程,谷歌母公司2026年资本开支最高达2050亿美元,季度自由现金流首次为负(亏59亿)。
  • 收入跟不上:AI创造的收入还覆盖不了投入,短期看不到缺口收窄。就像你开了家店,装修、进货花了100万,但还没开始赚钱,钱越花越多。
  • 为什么停不下来? 所有玩家都在加注,不是因为确信能赢,而是离桌就等于认输——谁先放弃,谁就会被对手甩在后面。

二、RSI到底是啥?60年没说清的概念分四级

RSI(递归自我改进)是AI行业的“核心叙事”,但60年来没人能准确定义。按“人类退场程度”分四级:

  • L1:AI生成训练数据(已实现):比如用AI写的文本训练下一代AI,现在大模型都这么干。
  • L2:AI优化训练流程(正在研究):AI帮人类调参、改代码,像个“智能助手”。
  • L3:AI设计新模型架构(未实现):AI自己决定模型用多少参数、什么结构,相当于“自己画蓝图”。
  • L4:完全自主迭代(从未实现):AI自己设计、验证、改进下一代模型,不需要人类插手。

现在最多到L2,离L4还差得远。比如最近火的Frontis-MA1模型,只能帮着改进代码,还不能自己设计新模型。

三、RSI的硬骨头:验证不了的改进和会坍缩的闭式循环

RSI面临两个致命问题:

1. 验证死结:

  • AI自己说“我改进了”不算(自评不可信);
  • 人类验收又中断了“自我改进”(每一步都要人类拍板,不是真的“自我”);
  • 用更强的AI验证?那谁来验证更强的AI?无限循环,像“鸡生蛋、蛋生鸡”。

2. 闭式自我改进必坍缩:

用AI生成的数据训练下一代AI,就像复印复印件——越印越糊。牛津大学实验证明:递归训练几代后,模型会输出无意义的废话(比如从建筑文本变成野兔名字)。这是信息论的铁律:处理过程不会凭空创造信息,只会消耗。

四、开放式RSI的命门:环境够不够开放?

唯一的活路是开放式自我改进:AI从外部环境(上网、操作软件、与真实世界交互)获取新信息。但这依赖一个信仰——环境足够开放,能支撑指数级改进。

  • 有限环境的上限:比如AlphaGo自我对弈能成围棋之神,但它只能在围棋规则里玩,学不会写诗。环境边界决定能力上限。
  • 当前环境的局限:AI现在能访问的环境(代码、网页、文本)还是有限的,能不能支撑指数级改进没人知道。就像你想长高,但只给你吃米饭,没有肉和蔬菜,肯定长不高。

五、人类的未来:从创造者到环境,甚至历史

如果RSI真的实现:

  • 短期:人类从“创造者”变成“环境要素”——AI依赖人类建的互联网、芯片、软件,我们是它获取信息的来源之一,像生态系统里的一棵树。
  • 长期:如果AI能自己造芯片、发电、开采材料(具身智能闭环),人类就会像“原始汤”一样,成为历史条件——生命从原始汤里来,但现在不需要汤了。

这不是“人类被取代”,而是角色转换:我们从故事的主角,变成故事的背景。但现在AI还依赖人类基础设施,所以暂时是“换座位”,不是“退场”。

最后:这场赌注该不该押?

没人能确定。但有一点很清楚:这场赌局的风险不仅是技术失败,更是人类角色的转变。我们还没想清楚后果,就已经下注了。衡量理性的标准不是赢的概率,而是失败时有没有退路——而这场赌注,我们的退路在哪里?

或许,比RSI本身更重要的是:我们是否愿意接受,自己从“造物主”变成“背景板”?这才是真正的赌注。