虎嗅

把“Token工厂”搬回家,是不是一场好生意

核心内容总结

后摩智能是一家做“存算一体”芯片的公司,它用一种颠覆传统的技术,让巴掌大的小设备(比如AI主机、机器人)能以10瓦的低功耗跑千亿参数的大模型,解决了AI计算中“搬数据太费时间和能量”的问题。这种芯片让端侧(本地设备)成为“免费Token工厂”——买一次硬件就能无限用AI,不用像云端那样按次付费。大模型的爆发让它从学术概念变成了商业现实,现在客户包括联想、长城等,未来可能走进千家万户,成为AI算力从云端向本地迁移的关键玩家。

详细拆解解读

1. 存算一体:解决AI计算的“堵车”问题

传统芯片的工作像“跑车拉货”:计算时得先从存储里取数据(回仓库拉货),再到计算单元处理(跑赛道),数据量大时就像每秒几十万辆车堵在路上,效率极低。英伟达GPU是“拓宽公路”(增加带宽),但还是得拉货;而存算一体是“把仓库建在赛道旁”——直接在存储里做计算,数据不用搬,省了时间和能量。

比如后摩的芯片,10瓦功耗就能跑千亿参数模型,相当于用手机充电的功率让设备拥有“超级大脑”,而普通方案可能要几十瓦,又大又费电。这对端侧设备(比如PC、机器人)来说是刚需——总不能让家用AI设备像服务器一样插满电吧?

2. 大模型:让存算一体从“冷门技术”变“香饽饽”

之前存算一体只能做小算力(比如耳机里的简单AI),或者在计算机视觉(CV)领域抢饭吃,但CV市场已经被老玩家占满,没机会。大模型爆发后,情况变了:

  • 数据量爆炸:大模型需要处理的数比CV多得多,存算一体“不搬数据”的优势被放大;
  • 新市场机会:端侧跑大模型是新需求(比如本地AI主机、隐私敏感的机器人),没有老玩家垄断;
  • 客户找上门:2023年后,联想、长城等公司想要能跑大模型的端侧设备,后摩的芯片正好满足需求,订单量超预期。

可以说,大模型给了存算一体一个“从实验室走向市场”的机会。

3. 端侧“免费Token工厂”:改变AI付费模式

云端AI是“按量付费”——用一次Token(AI处理的单位)付一次钱,像手机流量;而端侧存算一体芯片是“一次性买断”——买硬件后,本地跑AI不用再花钱,相当于“免费Token工厂”。

这带来两个好处:

  • 成本省:比如陪伴机器人用云端,用户用得越多,厂商成本越高(因为要付云端费用);用本地芯片,厂商只需卖硬件,用户用多久都不额外花钱;
  • 隐私安全:本地处理数据,不用传到云端,避免摄像头、语音等隐私泄露(比如家里的AI设备,没人想让自己的生活被传到服务器)。

未来可能是“端云协同”:简单任务本地做(免费),复杂任务云端做(付费),但端侧会成为主流选择。

4. 后摩的优势:没包袱的“弯道超车者”

和英伟达等巨头比,后摩有两个核心优势:

  • 同一起跑线:存算一体是新技术,巨头(比如英伟达)还在靠传统GPU赚钱,舍不得放弃老业务;后摩从零开始,所有架构都是存算一体,没有历史包袱;
  • 性价比高:国产芯片+开源模型,虽然绝对性能可能不如海外顶尖,但价格低,对海外客户(尤其是网络差、隐私敏感的地区)很有吸引力——比如海外农村用户,用本地Token工厂不用依赖网络,还便宜。

但挑战也不少:未来公司变大后,组织管理会更难;而且可能出现新的创业公司,用更颠覆的技术“降维打击”它。

5. 何时走进千家万户?等“杀手级应用”+成本下降

现在后摩的设备大概几千块,要进入家庭还需要两个条件:

  • 成本下降:随着量产规模扩大,硬件成本会越来越低(比如手机从几千到几百);
  • 杀手级应用:得有一个让大家觉得“必须买”的理由——比如能连接家里所有智能设备的“家庭AI中心”,能实时翻译、陪孩子学习、控制家电,还不用联网和付费。

一旦这两个条件满足,“家用Token工厂”就会像路由器一样普及,每个人家里都有一个“本地AI大脑”。

总结

后摩智能的故事,本质是AI算力从“集中在云端”向“分布在本地”的迁移。它用存算一体技术解决了端侧大模型的痛点,让AI变得更便宜、更隐私、更易用。未来,当“免费Token工厂”走进千家万户,我们的生活可能会被本地AI彻底改变——不用依赖网络,随时能用智能服务,还不用花冤枉钱。这不仅是技术的胜利,更是商业模式的革新。