虎嗅

为什么大模型不要迷信参数?

该文章尚未提供 Deutsch 解读,以下为中文版内容。

核心内容总结

这篇文章打破了“AI模型越大越好”的行业误区,指出企业落地AI的真正价值不在于模型参数多少,而在于工程能力——即是否能把任务定义清楚、给模型设定规则、设计稳定的工作流程。大模型适合处理模糊需求(比如用户说不清要什么时),但当任务明确后,小模型配合工程设计(如微调、固定提示词、流程约束)反而更稳定、更划算。成熟的AI系统应该是“模型梯队”分工,而非只用最大的模型,最终决定效果的是工程深度,不是模型大小。

详细拆解解读

1. 大模型的强项:帮你搞定“没想清楚”的问题,但要花钱

很多人用AI时喜欢问模糊的问题,比如“帮我做个商业计划”“分析下这个行业”——既不说目标,也不提具体要求。这时候大模型的优势就体现出来:它见得多、常识广,能猜用户的真实需求,补全那些没说出口的信息,拼出一个看起来合理的答案。比如你说“做商业计划”,大模型会自动假设你是初创公司、需要市场分析和财务预测,甚至帮你选行业方向。

但这笔“猜的成本”是要付费的,而且是按次付。比如用ChatGPT每次提问都要花钱,长期下来成本不低。本质上,大模型替你承担了“懒得把问题说清楚”的代价。

2. 任务一旦明确,小模型也能“干得漂亮”

当企业开始用AI做具体业务(比如客服、写固定格式的内容、处理结构化数据)时,任务就不再模糊了:输入什么、输出什么、哪些话能说、哪些不能说,都有明确规则。这时候,工程设计(比如给模型固定提示词、用自有数据微调、设定输出格式)会压缩模型“猜”的空间。

举个例子:客服场景。一开始用大模型+资料检索(RAG),模型虽然能查到产品信息,但说话没“人格”——不知道用什么语气解释,也分不清容易混淆的概念。后来用9B小模型(参数远小于大模型)做微调,配合固定提示词,结果反而更满意:它像训练好的员工,知道用业务术语、避免敏感词、稳定区分产品边界。这说明任务收敛后,小模型只要“训练到位”,不比大模型差。

3. 小模型的核心优势:不是便宜,是“靠谱”

大家常说小模型成本低、速度快,但对企业来说,更重要的是确定性。经过针对性训练的小模型,输出风格稳定(比如客服回复始终用亲切语气)、不会乱发挥(不会突然扯无关内容)、结果可复现(同样的问题每次答案一致)。

生产系统最怕“意外”:客服不需要写出华丽文章,自动化流程不需要模型突然有新想法。小模型的“有限能力”反而成了优点——它把所有精力集中在明确任务上,不会“画蛇添足”。

4. 成熟AI系统像“团队分工”,不是“一个超级员工”

真正好用的AI系统,不会只依赖一个大模型,而是像公司团队一样分工:

  • 小模型(如9B)做高频、明确的任务:客服回复、固定格式内容生成;
  • 中等模型(如27B)做需要结构理解的工作:复杂格式输出、长文本组织;
  • 大模型(如80B+)做开放问题:复杂推理、陌生领域分析;
  • 专业模型(如代码专用模型)做特定任务:编程、工具调用。

就像公司里前台管接待、技术管开发、管理层管决策,这样既高效又省钱。把所有任务都交给大模型,就像让CEO去做前台工作——能力够,但没必要,还贵。

5. 真正的AI工程:让模型少“动脑”,多“按规矩来”

刚开始用AI时,人们总希望模型“无所不能”:提示词写得模糊,让模型自己理解;数据质量差,让模型自己纠正;流程没设计好,让模型临场处理。但这样的系统不稳定,全靠模型“运气好”才能答对。

成熟的AI工程会反过来:把模糊输入变成固定字段(比如用户提问必须选“产品咨询”或“投诉”)、把自由输出变成结构化结果(比如客服回复必须包含“解决方案”和“联系方式”)、把容易出错的判断变成规则(比如超过3次没解决就转人工)。简单说,就是尽量减少模型“临场发挥”的机会,用流程和规则保证稳定。

这时候,模型只是系统的一部分,数据、提示词、规则、校验机制共同决定结果。用大模型但没工程设计,只会得到一个更贵、更难修的“不稳定系统”;用小模型但工程到位,反而能稳定输出。

最后一句话总结

AI落地不是“买最大的模型”,而是“把任务想清楚,再选最合适的模型,用工程设计让它稳定干活”。未来企业的差距,在于谁更早把AI当成“工程”,而不是“一次采购”。