虎嗅

五个男人的一台“AI末日”戏

一场关于“AI末日”的戏码:谁在喊停,谁在踩油门?

大家好,我是你们的财经记者。最近科技圈发生了一件挺有意思的事:几位平时互相看不顺眼、甚至还在打官司的AI大佬,突然手拉手站在一起,异口同声地喊:“AI太危险了,得减速!”

与此同时,美国总统特朗普却在电话里大声反驳:“别瞎说,这是骗局,我们要加速,不然就输给中国了!”

乍一看,这像是人类在讨论生死存亡的大问题。但如果你仔细剥开这层“伦理”和“安全”的外衣,你会发现,这其实是一场精心计算的利益博弈。今天我们就用大白话,把这场看似严肃的辩论拆解成五个方面,看看背后到底是谁在算计什么。

---

1. 仇人变盟友?“安全”成了最贵的营销标签

首先,我们要看清一个反常现象:Anthropic的CEO达里奥·阿莫迪、OpenAI的CEO萨姆·奥特曼,还有xAI的埃隆·马斯克。

这三位是什么关系?

  • 阿莫迪和奥特曼:是死对头,两家公司的产品天天打架。
  • 马斯克和奥特曼:更是老冤家,马斯克甚至起诉过OpenAI,两人在网上互骂是家常便饭。

按理说,他们应该互相拆台才对。但这次,他们竟然罕见地达成了共识,都呼吁“AI要减速,要安全”。

为什么?

因为“安全”现在成了AI行业最值钱的营销卖点。

  • Anthropic(阿莫迪):这家公司创立之初,就是打着“最重视安全”的旗号从OpenAI跑出来的。现在它马上要上市(IPO)了,估值接近万亿美元。怎么让投资人觉得这钱花得值?就得强调:“我们不一样,我们不仅聪明,我们还安全,我们是在为人类负责。” 这种“安全叙事”能直接抬高它的估值溢价。
  • OpenAI(奥特曼):虽然它以前也喊安全,但最近为了赚钱,悄悄删掉了公司文件里关于“安全优先”的承诺,甚至取消了军事用途禁令。现在它突然喊减速,是因为它不想现在上市。OpenAI去年亏了385亿美元,而竞争对手Anthropic已经盈利了。如果现在上市,估值肯定不好看。所以,奥特曼把“推迟上市”包装成“为了人类安全暂缓上市”,既保住了面子,又争取了时间等更好的估值窗口。

结论:他们喊“减速”,不是为了救人类,而是为了卖高价或避风头。

---

2. 追赶者的“拖字诀”:马斯克的小算盘

埃隆·马斯克这次也加入了“减速派”,但他的动机更微妙。

马斯克早就说过AI很危险,但他同时也创办了xAI。他的逻辑很现实:既然AI不可避免,那我就亲自下场,确保它按我的想法发展。

目前,在AI大模型的竞赛中,xAI其实是追赶者。OpenAI和Anthropic跑得更快,技术更领先。

  • 如果行业全速狂奔,领先者会越拉越远,xAI很难追上。
  • 如果行业“减速”,或者引入更严格的监管、互相测试机制,领先者的优势就会被削弱,大家回到同一起跑线附近。

所以,马斯克提议“竞争对手互相测试模型”,表面上是行业自律,实际上是给领先者设路障。他希望通过制定规则,拖慢对手的脚步,让自己有喘息和追赶的机会。同时,作为规则制定者之一,他也能在行业里占据更有利的话语权。

结论:对马斯克来说,“减速”是战术性暂停,目的是缩小与领先者的差距。

---

3. “卖铲人”的焦虑:黄仁勋为什么反对减速?

在这场辩论中,英伟达CEO黄仁勋是坚定的“加速派”。

英伟达是AI行业的“卖铲人”——不管谁挖到了金矿(AI应用),只要他们挖,就得买英伟达的铲子(GPU芯片)。

  • 加速论:AI发展越快,数据中心建得越多,英伟达的芯片卖得越多,业绩越好。
  • 减速论:如果大家都说AI太危险,要停下来搞安全审查,那数据中心建设就会放缓,英伟达的订单就会减少,股价就会跌。

所以,黄仁勋在台上极力反驳“AI末日论”,他说那些预测AI取代人类、取代工作的说法都没兑现。他需要维持“AI正在指数级爆发”的故事,因为他的公司业绩完全依赖于这个故事的持续上演。

结论:黄仁勋反对减速,是因为减速意味着少卖芯片,少赚钱。

---

4. 特朗普的选举算盘:把“AI风险”定性为“骗局”

美国总统特朗普在这场戏里的角色非常关键。他不仅反对减速,还直接打电话给黄仁勋,公开表态:“机器人不会接管世界,这是骗局。”

特朗普这么做,主要有两个原因:

1. 中美竞争焦虑:特朗普一直强调美国在AI上只领先中国一年,优势随时可能丧失。如果因为担心“AI失控”而放慢脚步,那就是把优势拱手让给中国。对他来说,速度就是国家安全。

2. 中期选举压力:这是更现实的原因。

  • 美国老百姓现在对AI挺不满的。为什么?因为建数据中心要耗大量电,导致电价上涨;而且很多人担心AI抢工作。
  • 民调显示,70%的美国人反对在本地建AI数据中心,AI的支持率甚至低于移民执法局(ICE)。
  • 如果特朗普支持“AI减速”或“加强监管”,就等于承认“AI确实有问题”,这会打击科技股,也会让选民觉得政府管得太宽。
  • 所以,他必须把那些呼吁监管的声音定性为“荒唐的阴谋论”和“骗局”,把数据中心吹捧成“未来的石油”,以此安抚选民,保住基本盘。

结论:特朗普反对减速,是为了赢得选举和维持美国对中国的科技优势。

---

5. 真相:没有末日,只有生意

最后,我们来总结一下这场辩论的本质。

文章开头说得好:“如果一件事真可能在几十年内就终结人类,靠辩论是解决不了的。而如果它靠辩论就能解决,那一开始就不是末日。”

目前的AI,虽然强大,但离“毁灭人类”的科幻场景还差得远。所谓的“6-12个月内AI接管互联网”、“数千亿美元损失”,更多是抽象的恐吓,没有任何一家公司能拿出确凿的证据证明这种末日危机近在咫尺。

相反,这些公司一边喊着“安全”,一边悄悄拆掉安全护栏,加速赚钱:

  • OpenAI删掉了“安全优先”的承诺,开始接军事订单。
  • Anthropic取消了“风险不达标不训练”的硬性规定,改为更柔和的报告机制。
  • 大家都在拼命发新模型,抢市场份额。

所以,这场“AI末日论”的辩论,本质上是一场利益分配的游戏:

  • 想上市的公司(如Anthropic)需要“安全”故事来抬高估值。
  • 亏损的公司(如OpenAI)需要“安全”故事来推迟上市。
  • 追赶者(如xAI)需要“减速”故事来拖慢对手。
  • 卖硬件的公司(如英伟达)需要“加速”故事来卖芯片。
  • 政客(如特朗普)需要“反减速”故事来赢得选举和对抗中国。

给普通人的启示:

下次再看到新闻说“AI要毁灭世界”或者“AI太危险要监管”时,别急着恐慌,也别急着感动。先看看是谁在说话,他背后有什么利益。

  • 如果是想卖你“安全保险”的,听听就好。
  • 如果是想拖慢竞争对手的,看看就行。
  • 如果是想让你别担心、继续花钱买电买芯片的,保持警惕。

AI的发展不会停止,但它的方向,是由这些拿着算盘的人决定的,而不是由哲学家决定的。