核心内容总结
这篇新闻聚焦国产算力领域的关键趋势:随着大模型参数量(如Kimi的2.8万亿参数)持续膨胀,支撑其训练/推理的算力集群需从“堆卡”转向“系统级优化”,超节点成为解决卡间协同问题的核心方案。今年WAIC上,华为、阿里等多家国产厂商推出超节点产品,国内超节点在技术路线(如正交背板)上部分领先海外,但面临成本高、功耗大等工程化挑战,未来光互连是突破超节点规模瓶颈的关键。
详细解读
1. 为啥超节点突然成了“刚需”?——模型参数变大倒逼的
以前大模型用几十张卡就能跑,但现在参数涨到2.8万亿(Kimi),明年甚至要到5-6万亿。参数翻倍意味着需要的算力卡数量也成倍增加,卡多了之后,它们之间的“通信效率”就成了瓶颈:如果只是简单堆卡,卡和卡之间“说话”慢,会浪费大量算力。
超节点的作用就是把大量算力卡(比如256张)连得像一台计算机一样,让它们协同工作更高效。比如摩尔线程的超节点能让256张GPU像一张一样用——就像256个画家在同一块布上画画,速度快还省钱。而且当集群规模到十万卡时,超节点更是必须的:总不能靠堆1000台服务器吧?得把超节点组成更大的集群才行。
2. 国产超节点技术:某些路线已经跑赢海外
海外(如英伟达)的超节点用“线缆连接”(Cable Tray),最多连128卡,但线缆多了容易坏,坏了要整根换,且信号传不远。国内厂商走了另一条路——正交背板:不用线缆,直接让计算和交换单元90度直连,运维简单、生产方便。目前海外还没有这种方案,所以在正交背板路线上我们是领先的(比如壁仞、沐曦、摩尔线程都有相关产品)。
另外,海外超节点是英伟达一家包上下游,国内则是多家协同(比如GPU来自摩尔线程,CPU来自其他厂商),虽然模式不同,但技术上有自己的优势。
3. 超节点是“烧钱又难造”的硬骨头——三大工程化坎
超节点不是随便做的:
- 成本高:一个超节点可能上亿,坏一张卡整个设备都可能没法用;
- 功耗大:以前普通机柜才6KW,现在超节点机柜能到48KW,整个超节点功耗甚至400KW,散热是大难题;
- 可靠性:要保证某个部件(网卡、磁盘)坏了不影响整个系统,比如十万卡集群的稳定运行时间直接决定系统能力。
就连英伟达的下一代超节点都因PCB问题遇到生产困难,可见难度之大。
4. 未来方向:光互连是突破规模瓶颈的关键
现在超节点用的电互连最多支持128卡,模型参数再变大就不够了——电互连传不远(超过3米信号损耗)、速度有限。光互连能解决这些问题:传得远、速度快。
目前主流光方案中,NPO(近封装光学)最可行:把GPU和光引擎封装在一起,不用定制机柜。今年多家厂商在攻关,预计明年逐步落地,2028年规模化。比如壁仞的新一代超节点就用了NPO,未来能支持更大规模的超节点,满足5万亿甚至更大参数模型的需求。
总结
超节点的兴起,标志着国产算力从“单卡比拼”转向“系统协同”的竞争。国内厂商在技术路线上有突破,但工程化和未来光互连的落地仍需时间。这背后,是国产算力为了弥补单芯片不足,在系统级优化上的“突围战”。