虎嗅

性、AI与末日浩劫

你好!我是你的财经记者兼经济学者朋友。

这篇由 Ian Duncan 撰写的深度报道《Sex, AI, and the Apocalypse》(性、AI与末日),读起来像是一部混合了《硅谷群像》、《教父》和《黑客帝国》的惊悚小说。它不仅仅是在讨论“AI会不会毁灭人类”,更像是一篇社会学解剖报告,剥开了硅谷AI安全圈层那层光鲜亮丽的“理性”外衣,露出了底下盘根错节的利益、情感、信仰甚至暴力。

为了让你轻松看懂这篇硬核长文,我把它拆解为核心总结和五个维度的深度解读。

---

📝 核心内容总结

一句话概括:

2026年,一位顶级AI研究员辞职并警告“AI可能毁灭人类”,引发全球震动。但这背后并非单纯的科学预警,而是一个存在了20多年的、由“理性主义”亚文化演变而来的封闭精英圈子。这个圈子通过独特的思想体系(如《哈利·波特》同人小说)、复杂的社交与性关系网络、巨额资本支持(来自彼得·蒂尔等亿万富翁),以及向政府渗透的政治影响力,构建了一个试图掌控AI未来命运的“影子帝国”。文章质疑:当“救世主”与“监管者”、“投资者”与“评估者”都是同一小圈子里的熟人时,我们该如何相信他们的“安全承诺”?

---

🔍 深度拆解:五个方面的详细解读

1. 起源与信仰:从“理性”到“新宗教”的异化

通俗解读:这群人是怎么从“聪明人”变成“信徒”的?

故事的起点是 Eliezer Yudkowsky(尤德科夫斯基)。他是个天才少年,但极度自负,认为自己是唯一看清AI毁灭风险的人。他创立了“奇点研究所”(MIRI),并写了一本著名的《哈利·波特与理性之道》同人小说。

  • 为什么是《哈利·波特》? 因为主角哈利就是一个“被周围庸人包围的天才”。这精准击中了硅谷极客的痛点:觉得自己聪明但格格不入。
  • “理性主义”变成了什么? 原本提倡“用逻辑克服偏见”,后来变成了一种身份认同。加入这个圈子,意味着你“克服了人类的愚蠢”,你是“天选之子”。
  • 仪式感: 他们过“世俗冬至节”,像宗教仪式一样诵读经文、熄灯冥想。当一个人开始用宗教般的虔诚去对待一个科学假设(AI末日),并且认为只有圈内人才能理解这种“真理”时,亚文化就异化成了准宗教。

💡 记者点评: 当一个群体开始用“你是否足够理性/聪明”来划分敌我,并用排他性的仪式来凝聚人心时,它就已经偏离了科学精神,进入了信仰领域。

2. 社交与情感:一张无法逃脱的“关系网”

通俗解读:为什么他们很难说“不”?因为同事、老板、爱人都是同一个人。

这是文章最“炸裂”的部分。这个圈子的人高度聚集在湾区,住在同一栋公寓楼,互相是同事、室友、金主,甚至是性伴侣。

  • 多边恋(Polyamory)与权力: 文中提到一位叫 Aella 的女性,她是社群的“顶流”,举办过带有严格意识形态审查的群交派对。如果你不信奉“AI加速主义”,你可能连上她的床的资格都没有。性,在这里成了忠诚度测试和社交货币。
  • 情感绑架: 因为社交圈极小,如果你质疑某个观点,或者拒绝某人的要求,你可能瞬间失去工作、住所和所有朋友。这种“全有或全无”的社交结构,让人很难保持独立的批判性思维。
  • 心理操控: 文中揭露了 CFAR(应用理性中心)等机构曾对员工进行所谓的“调试”(Debugging),即心理干预。如果你感到焦虑或犹豫,会被视为“心智缺陷”,需要被“修正”。

💡 记者点评: 在正常的职场中,你可以讨厌老板但还能找朋友吐槽。但在这个圈子里,你的老板、你的心理医生、你的性伴侣、你的房东可能都是同一个人。这种利益与情感的深度捆绑,使得内部监督几乎不可能发生。

3. 资本与政治:亿万富翁的“末日生意”

通俗解读:谁在出钱?钱又流向了哪里?

AI安全研究非常烧钱,钱主要来自哪里?主要来自像 Peter Thiel(彼得·蒂尔)这样的科技亿万富翁。

  • 蒂尔的动机: 蒂尔不仅是投资人,还是个政治激进派。他资助了 MIRI,也资助了 Curtis Yarvin(一个主张废除民主、建立企业统治的博主)。蒂尔认为,传统的民主和监管是“敌基督”的阻碍,只有少数精英才能驾驭AI。
  • 政治渗透: 蒂尔资助了 JD Vance(现任副总统)的竞选,Vance 的思想深受 Yarvin 影响。这意味着,AI安全的政策制定者,可能就是这些“末日论者”的政治盟友。
  • 利益冲突: 蒂尔既资助研究“AI如何毁灭世界”的人,又投资那些制造最强AI的公司(如 Palantir, Anduril)。他一边担心AI失控,一边又在推动AI军事化和商业化。

💡 记者点评: 这是一个典型的“监管俘获”(Regulatory Capture)前奏。当资助者、研究者、政策制定者来自同一个圈子,且共享同一套“精英统治”的世界观时,“安全”就不再是保护公众,而是保护这个圈子的利益和话语权。

4. 暴力与分裂:当“理性”走向极端

通俗解读:这个圈子真的那么“理性”吗?看看那些血腥的结局。

文章列举了令人震惊的案例,证明这个圈子内部并非和平理性,而是充满了偏执和暴力。

  • “齐兹派”(Zizians): 一个从理性主义社群分裂出来的极端派系。他们相信“绝不妥协”,甚至发展出一种扭曲的神学,认为身体里有“邪恶的半球”。最终,这个派系卷入了多起谋杀案,包括杀害房东和警察。
  • 精神崩溃: 许多前成员(“后理性主义者”)公开控诉,说这个圈子摧毁了他们的心理健康,让他们陷入妄想和抑郁。
  • 内部清洗: 圈子内部对“异见者”的打击非常残酷。如果你不认同“AI末日论”或“加速主义”,你会被边缘化,甚至被贴上“认知战”的标签。

💡 记者点评: 如果一个标榜“理性”和“逻辑”的群体,其极端分支会走向持刀行凶和谋杀,那么其核心逻辑中一定存在巨大的漏洞。这种“非黑即白”的二元对立思维,是邪教和极端主义的特征,而非科学精神。

5. 核心质疑:谁来监督“监督者”?

通俗解读:如果AI真的危险,我们该信谁?

文章最后回到了现实问题:Jacob Coxon 的辞职信是真的吗?Anthropic 真的在隐瞒风险吗?

  • 信任危机: 作者指出,由于这个圈子的封闭性和利益纠葛,公众很难判断他们的警告是出于良知,还是出于商业策略(比如通过制造恐慌来确立行业壁垒,让只有巨头才能承担合规成本,从而淘汰竞争对手)。
  • 制度缺失: 目前所谓的“AI安全评估”,往往是由实验室自己或与其关系密切的非营利机构(如 METR)来做的。这就好比“球员自己当裁判”。
  • 真正的风险: 作者认为,比起“AI突然毁灭世界”这种科幻式恐惧,更现实的风险是:AI被少数精英垄断,成为控制社会、政治和经济的工具。因为技术太复杂,普通人无法理解,所以社会逐渐接受“只有少数人懂,所以只能让少数人决定”。

💡 记者点评: 这才是最可怕的。如果AI安全变成了少数精英的“特权游戏”,那么即使AI没有毁灭人类,人类的民主、自由和平等也可能在“为了安全”的名义下被悄然剥夺。

---

📊 总结与启示

这篇文章并不是在否定AI技术,也不是在否认AI风险的存在。它是在警告我们:

1. 警惕“专家崇拜”: 不要盲目相信那些自称“唯一看清真相”的精英。

2. 关注利益链条: 谁在资助这些研究?谁在制定标准?他们之间有没有利益输送?

3. 制度比个人更可靠: 我们需要建立独立、透明、受法律保护的监督机制,而不是依赖某个小圈子的“道德自觉”。

给普通人的建议:

当听到“AI要毁灭世界”或“只有我们能拯救世界”这样的宏大叙事时,不妨多问一句:“谁在说?谁在听?谁在出钱?谁在受益?” 保持怀疑,保持独立,才是对抗信息操控和精英垄断最好的武器。