虎嗅

端侧AI之战正式打响

端侧AI大战:当AI从“云端大脑”搬进你的口袋和车里

大家好,我是你们的财经记者。今天我们要聊一个正在发生、但可能还没完全进入你视野的巨变:AI正在从“云端”搬进你的设备里。

以前我们说AI,想到的是ChatGPT、DeepSeek,你得联网,服务器在几千公里外帮你算。现在,风向变了。手机、汽车、甚至一只机器鸭子,都开始自带“小脑”,不用联网也能干活。这就是“端侧AI”(On-Device AI)。

这篇文章的核心信息是:2026年可能是“端侧AI商业化元年”。 巨头们(英伟达、Meta、苹果、华为、小米、字节等)和初创公司(面壁智能、阶跃星辰等)都在疯狂布局。为什么?因为云端太贵、太慢、还有隐私风险,而端侧便宜、快、还保护隐私。这是一场硬件产业的全面升级,也是一场关于“谁掌握入口”的战争。

下面,我把这篇长文拆解成5个关键方面,用大白话给你讲透。

---

1. 为什么要搞“端侧AI”?因为云端太贵、太慢,还“社死”

大家可能觉得,云端大模型(比如GPT-4)很强,为什么还要搞个小的塞进手机里?主要有三个痛点:

  • 太贵了,烧钱如流水:

训练一个顶级大模型,比如Anthropic的Mythos,成本高达100亿美元。更可怕的是使用成本。字节跳动的豆包虽然免费,但据测算,它每天光是推理成本就要烧掉1.3亿到2.4亿元。如果用户越多,成本越高,这生意没法一直亏本做。端侧AI不一样,它跑在你自己的手机芯片上,边际成本几乎为零。你问一万次,手机不额外收你电费,厂商也不用付巨额服务器账单。

  • 断网就“脑死亡”,延迟高:

云端AI依赖网络。你在地铁里、飞机上、或者信号不好的地方,AI就废了。而且,数据传到云端再传回来,会有延迟。端侧AI直接在你设备本地运行,响应速度极快,断网也能用。

  • 隐私是个大问题:

你不想让全世界知道你在搜什么、拍什么照片。云端AI意味着你的数据要上传。端侧AI数据不出设备,隐私安全性大大提升。

简单说: 云端AI像“专家会诊”,厉害但贵且慢;端侧AI像“家庭医生”,就在你身边,随叫随到,还保护你的隐私。

---

2. 技术怎么实现的?“小钢炮”模型 + 芯片升级 = 以小博大

很多人担心:手机内存就那么大,塞得下大模型吗?答案是:能,靠的是“压缩”和“芯片进步”。

  • 模型“瘦身”技术:

科学家通过知识蒸馏、剪枝、量化等技术,把万亿参数的“巨无霸”模型,压缩成几个B(十亿)参数的“小钢炮”。虽然变小了,但在特定任务上(比如语音识别、简单问答、图像理解),性能依然很强。

  • *例子:* 面壁智能的MiniCPM5-2B,只有20亿参数,却能在全球4B以下开源模型中拿第一。这就好比一个身材娇小但武功高强的武林高手。
  • 芯片算力翻倍(摩尔定律 + 密度定律):

芯片每两年算力翻一倍(摩尔定律),而模型的能力密度每100天翻一倍。两者叠加,意味着现在的手机芯片,已经足够跑动几年前需要超级计算机才能跑的模型。

  • *例子:* 英伟达的新芯片RTX Spark,算力高达1 Petaflop,能在本地跑1200亿参数的大模型。AMD、英特尔也在疯狂堆算力。

结果就是: AI不再只是云端的“云端”,它开始下沉到手机、PC、汽车、机器人里。2025年,36%的新手机已经具备生成式AI能力,2027年这个数字将超过50%。

---

3. 谁在打仗?巨头、初创、硬件厂,各怀鬼胎

这场战争不是单一维度的,而是多方混战,角色不同,策略也不同。

A. 国际巨头:买生态、造硬件

  • 英伟达: 豪掷129亿美元收购Hugging Face(全球最大AI开源平台)。为什么?为了控制开源生态。它推出的Microduck机器鸭(399美元),用中端芯片就能跑,目的是降低门槛,让所有人都能玩AI机器人,从而巩固英伟达在AI基础设施的地位。
  • 苹果、Meta、谷歌: 都在推自己的端侧AI(Apple Intelligence, Meta Llama等),目标是让AI成为自家生态的标配,增强用户粘性。

B. 中国玩家:各有侧重,百花齐放

  • 面壁智能(纯端侧模型供应商):
  • *定位:* “卖水人”。我不做手机,我做模型,卖给所有硬件厂。
  • *亮点:* 开源MiniCPM系列,打入三星供应链(三星Galaxy AI的端侧能力由它提供),还落地了长安马自达的车机。
  • *风险:* 文章最后提到,硬件大厂(如苹果、华为)最终可能会自研模型,面壁这种“纯第三方”模式可能面临天花板。
  • 字节跳动(豆包)+ 中兴努比亚:
  • *定位:* “超级入口”。
  • *亮点:* 推出NaviX Ultra手机,主打“AI智能体”。你可以一句话打车、点奶茶,AI直接操作App。
  • *目的:* 字节有强大的C端用户基础,通过AI手机,把豆包从“聊天工具”变成“操作系统级助手”,抢占用户时间。
  • 阶跃星辰(软硬一体):
  • *定位:* “全链路玩家”。
  • *亮点:* 印奇(原旷视科技CEO)主导,既做模型,又做手机(STEPX Neo),还和吉利合作做汽车。目标是打通“模型-系统-硬件”全链条。
  • 地平线、德赛西威(汽车方案商):
  • *定位:* “车规级专家”。
  • *亮点:* 地平线有芯片+算法,德赛西威主打“端云协同”。汽车对安全性、实时性要求极高,端侧AI在这里是刚需。
  • 科大讯飞:
  • *定位:* “办公生产力”。
  • *亮点:* 开源星火X2.5端侧模型,主打断网可用、长文本处理,瞄准企业办公场景。

总结: 有人卖模型(面壁),有人做手机(字节、阶跃),有人做车(地平线),有人做生态(英伟达)。大家都在抢“端侧AI”的定义权和入口。

---

4. 一个标志性事件:399美元的“机器鸭”撬动了什么?

文章特别提到了英伟达收购Hugging Face后,其旗下Pollen Robotics推出的Microduck机器鸭。这个案例非常关键,它代表了端侧AI的“ChatGPT时刻”。

  • 为什么重要?
  • 极低成本: 399美元,用的是2020年的中端芯片RK3566,而不是昂贵的顶级GPU。
  • 开源可玩: 用户可以自己训练它,上传数据到Hugging Face Hub。
  • 数据飞轮: 成千上万只鸭子在真实世界收集数据,反过来优化算法。这种“数据-算法-硬件”的闭环,成本极低,迭代极快。
  • 市场反应: 24小时订单破260万美元,4秒卖出一台。

启示: 端侧AI不仅仅是手机和车,它正在渗透到机器人、智能家居、可穿戴设备等所有物理世界。未来,AI不再是屏幕里的文字,而是能看、能听、能动的实体。

---

5. 未来格局:云端定上限,端侧定入口

文章最后给出了一个非常清晰的未来分工图景:

1. 云端大模型(上限): 负责最复杂的推理、长视频生成、超级Agent。它是AI的“大脑”,定义能力的天花板。

2. 行业模型(深度): 在金融、医疗、法律等垂直领域深耕,解决专业问题。

3. 端侧模型(入口): 负责高频、实时、隐私、离线任务。它是AI的“手脚”和“感官”,决定AI能触达多少人和设备。

核心逻辑:

  • 云端太贵,不能覆盖所有场景。
  • 端侧便宜、快、隐私好,是AI普及的必经之路。
  • 趋势: “端云协同”。简单任务在本地跑,复杂任务上传云端。

对普通人的影响:

  • 你的手机、电脑、汽车会越来越“聪明”,且更懂你(因为数据在你本地)。
  • AI应用会从“聊天”变成“办事”(打车、购物、控制家电)。
  • 硬件厂商(手机、车厂)的话语权会增强,因为他们掌握了端侧入口。

对投资者的启示:

  • 关注端侧芯片(NPU、SoC)厂商。
  • 关注端侧模型供应商(如面壁智能,但需警惕大厂自研风险)。
  • 关注AI硬件创新者(如AI手机、AI PC、机器人)。
  • 风险提示: 纯第三方端侧模型公司可能面临被硬件大厂“去中间化”的风险。

---

结语

端侧AI之战,本质上是一场“AI民主化”的运动。它让AI从昂贵的云端服务,变成每个人口袋里、车轮下、家里的标配。

虽然目前端侧AI的独特价值还在显现中,但随着芯片算力的提升和模型压缩技术的成熟,“AI普惠”的时代真的来了。对于企业来说,现在入局端侧,就是抢占下一个十年的入口;对于用户来说,准备好迎接一个更智能、更私密、更便捷的数字生活吧。