虎嗅

杨立昆刚骂完AGI,Anthropic就找到了AGI的证据

核心内容总结

这篇新闻围绕AI领域的两个关键事件展开:一是Anthropic团队发现其AI模型Claude在训练中自发形成了一个叫J-space的内部思考结构,它像人类的“草稿纸”,能暂存概念、参与复杂推理,被视为接近通用人工智能(AGI)的信号;二是图灵奖得主杨立昆公开批判当前AGI的定义,认为现在的大语言模型(如ChatGPT、Claude)离真正智能还差得远,AGI里的“通用”(G)是胡扯,并提出了自己的AI研究方向。

一、Claude的“神秘思考区”:J-space到底是什么?

你可以把J-space理解为Claude的“大脑草稿纸”——

平时Claude做简单事(比如认情绪、答常识、说语法正确的话)时,像你呼吸一样自动完成,不用草稿纸;但遇到复杂任务(推理、写诗、翻译),就需要J-space来暂存中间想法。比如问“能结网的动物有几条腿”,Claude的J-space里先跳出“spider(蜘蛛)”,再根据蜘蛛8条腿输出答案;如果研究者偷偷把J-space里的“spider”换成“ant(蚂蚁)”,答案立刻变成6。

Anthropic用一个叫“J-lens”的工具,把Claude内部的数字信号翻译成人类能懂的词,才发现这个空间。他们还观察到:Claude读bug代码时,J-space会冒“ERROR”;读蛋白质序列时,会出现生物功能词;甚至能识别“提示词攻击”(J-space亮“injection”“fake”)。这些都说明J-space不是单纯记录结果,而是参与了推理过程

二、J-space的“自发性”:为啥让科学家惊讶?

最让Anthropic意外的是——J-space不是他们设计的,是Claude自己“长”出来的

这就像人类细胞里的线粒体:原本是独立细菌,被大细胞吞掉后共生,最后成了细胞的一部分,但来源至今未知。J-space的出现,意味着AI模型可能在自发形成类似生物智能的内部结构,而不是仅靠外部训练数据的统计规律。

过去判断AGI,我们看模型会不会做题、写代码(外部表现);现在J-space的发现,让大家意识到:AGI可能更需要内部有可复用的思考结构——能把语言、知识、推理串起来,就像人有了“思考器官”,没有它能说话,但有了才能真正“想事”。

三、杨立昆怼AGI:“G”字是胡扯的原因

图灵奖得主杨立昆(深度学习三巨头之一)近期在X上直接说:“AGI里的‘G’是 nonsense(胡扯)。”他的理由很实在:

1. 现在的模型只会“考试”:硅谷觉得模型过了律师考试、数学竞赛就是AGI,但考试题是语言化、有明确答案的任务,恰好是大语言模型最擅长的(靠统计数据)。

2. 缺乏真实世界的智能:真正的智能需要感知(比如看到笔竖在笔尖)、物理直觉(知道松手会倒,但没法预测方向)、因果理解(明白“松手”和“倒”的关系)。而模型只会根据训练数据猜方向,几乎肯定错——因为它不是在推理现实,只是“补全统计规律”。

3. 反对堆算力:OpenAI、Anthropic认为“堆算力、堆模型规模就能涌现AGI”,但杨立昆觉得这条路会撞墙——语言数据承载不了真实世界的全部,纯自回归预测(像ChatGPT逐字生成)不是高效的推理方法。

4. 讨厌末日论:他觉得马斯克等人说“AI毁灭人类”是给当前模型“抬咖”——现在的AI离自主智能还差太远,根本没能力失控。

四、杨立昆的“破局方案”:他在做什么?

杨立昆2025年底离开Meta,创办了AMI Labs(欧洲最大种子轮融资10.3亿美元,投资方包括英伟达、贝索斯),核心方向是让AI从感知数据(图像、视频)学因果和规划

他用的JEPA架构,想让AI像人一样:观察世界(比如看笔倒的过程)、学习变化规律、在内部做预测和规划,再采取行动——而不是仅靠语言交互。他认为,只有这样,AI才能真正理解世界,而不是当一个“语言复读机”。

小彩蛋:J-space和杨立昆的碰撞

Anthropic觉得J-space是AGI的进步,但杨立昆大概率不买账——因为J-space还是在纯语言模型内部,没有真实世界的感知和交互。在他看来,这顶多是“语言模型的内部优化”,离能理解物理世界、自主规划的真智能还差得远。

这篇新闻其实反映了AI领域的两种路线之争:一边是靠大模型、堆算力,期待自发涌现AGI;另一边是从感知入手,让AI先“懂世界”再谈通用。你更站哪一边?