第一财经

直击CES|不再死磕昂贵的大模型,硅谷创业者加码设备端AI

该文章尚未提供 Français 解读,以下为中文版内容。

核心内容总结

AI创业圈风向大变:两年前的“百模大战”(抢做大模型)如今降温,创业者纷纷转向轻量化小模型、AI智能体和设备端AI。原因很简单——大模型太烧钱,只有巨头玩得起;而设备端AI(直接在手机、摄像头等终端运行的AI)成本低、隐私安全、落地快,已出现多个商业化好场景。这不是技术退潮,而是行业从“拼参数、拼算力”转向“拼效率、拼实用”的理性回归。

详细拆解

#### 1. 大模型成“巨头专属游戏”,创业公司玩不起

之前大家都觉得“模型参数越大越聪明”,但现在发现大模型是“烧钱无底洞”:

  • 训练成本高到离谱:千亿参数的大模型,训练一次就要几千万美元;训练好后用它干活(叫“推理”),算力消耗也惊人。
  • 成本降不下来:GPU芯片涨价、云服务器租金飙升,大模型的“边际成本”(每多处理一次任务的成本)没像预期那样下降。
  • 创业公司扛不住:钱花得比传统软件创业快N倍,且就算模型做得好,也不知道怎么赚钱。投资人直言:大模型是“技术上能成,但算账算不过来”的项目。

现在行业共识是:大模型只有谷歌、OpenAI这些有钱巨头能玩,创业公司别碰。

#### 2. 新赛道:设备端AI火了,好处一箩筐

设备端AI,就是AI程序直接装在你的手机、摄像头、智能手表上,不用连云端也能干活。它的优势戳中了用户和企业的痛点:

  • 省钱:不用租云端算力,省掉一大笔服务器账单;
  • 隐私安全:数据不用上传云端,不用担心被泄露(比如摄像头识别陌生人,数据永远留在你家设备里);
  • 响应快:不用等网络传输,瞬间就能处理任务(比如手机上消除歌曲人声,秒出伴奏)。

怎么做设备端AI?像Aizip这样的公司,用“大模型教小模型”的方法:让大模型把知识“蒸馏”给小模型(相当于大模型当老师,小模型学本事但体积更小),再结合收集、购买的数据训练,就能做出小巧又好用的终端AI。目前他们已经和软银、ARM这些大公司合作,把模型装到很多硬件设备里了。

#### 3. 设备端AI的“赚钱场景”:这三个最靠谱

现在设备端AI已经有不少能落地赚钱的场景,新闻里重点提了三个:

  • 卡拉OK声音处理:传统卡拉OK要在线消除人声,现在设备端AI直接在你手机上完成——识别歌曲里的人声并去掉,只留伴奏,不用上传歌曲到云端,又快又安全;
  • 智能摄像头:摄像头能在本地识别来人是快递员还是陌生人,甚至发现偷快递的异常行为,实时给你发警报。对家庭来说,既保护隐私(数据不传到云端),又能及时防贼;
  • 智能唤醒助手:智能手表、音箱的唤醒功能不用连网也能响应,更省电、更流畅。

#### 4. 创业思路大转弯:从“做大”到“做精”

以前大家迷信“规模定律”(参数越大、数据越多,AI越聪明),现在创业者变务实了:

  • 不拼算力拼效率:Aizip的陈羽北说,创业要“反向而行”——不做大模型,而是做“全球最小、最高效”的AI系统;
  • 小场景里小模型能赢大模型:在明确的细分场景(比如卡拉OK声音处理),小模型能做到和谷歌Gemini这样的大模型一样好,甚至更好。因为大模型的“规模优势”在小场景里没用,小模型反而更灵活、更省钱。

#### 5. 华人工程师:踏实补短板,成为AI中坚

陈羽北是典型的华人工程师:清华本科、伯克利博士,还跟着AI大牛Yann LeCun(图灵奖得主)补过工程能力。华人工程师在AI里的优势很明显:

  • 基础扎实:数理功底好,学新技术快;
  • 务实肯干:擅长解决实际工程问题(比如把AI模型装到终端设备里);
  • 会补短板:发现自己工程能力不够,就去大厂跟着大牛学。

而美国顶尖工程师更擅长“脑洞大开”——想新方向、新点子。两者互补,共同推动AI进步。

总结

AI创业不再是“比谁的模型更大”,而是“比谁的AI更能用、更省钱”。设备端AI的崛起,说明行业终于从“炫技”转向“解决真问题”——这对用户、创业者和行业来说,都是好事。毕竟,能落地赚钱的AI,才是好AI。