2026年WAIC,最热的展品不是某款新芯片,而是一个黑色机柜——华为Atlas 950 SuperPoD超节点。
单柜集成64张昇腾950计算卡,最高可扩展至8192张高速互联,FP8总算力8 EFLOPS(每秒800亿亿次),互联带宽16.3 PB/s。
华泰证券把2026年叫做"国产超节点元年",预计2028年市场规模达3414亿元。沐曦、昆仑芯、燧原、中兴……几乎所有国产算力厂商都在今年推出了自己的超节点产品。
但大多数人看超节点,看的是"多少张卡、多少FLOPS"——这是训练时代的思维。
超节点真正的技术突破,不在算力规模,而在架构革命:从"单卡作坊"到"系统级Token工厂"。
过去衡量算力,看的是单卡FLOPS;现在衡量算力,看的是系统级Token产出效率——每卡每秒能产出多少Token,整个集群的推理吞吐是多少。超节点不是简单的"更多卡",而是一种全新的算力组织方式。
一、为什么需要超节点?推理时代的算力困境
要理解超节点,先要理解算力市场的需求变化。
2023-2024年,算力市场的主需求是训练——用海量数据训练大模型,算力消耗以"训练时长"衡量,对互联带宽和延迟的容忍度较高。
2025年开始,随着DeepSeek、Kimi等开源模型大规模落地,算力市场的主需求转向推理——让训练好的模型回答用户问题。推理场景对硬件的要求与训练截然不同:
训练 vs 推理:两种完全不同的算力需求
- 训练:追求峰值算力,可容忍数小时延迟,通信带宽要求中等
- 推理:追求持续吞吐,必须毫秒级响应,通信带宽要求极高
- 训练:单卡效率重要,卡间协同次之
- 推理:卡间协同决定整体效率,单卡性能不再是瓶颈
- 训练:算力利用率60%可接受
- 推理:算力利用率必须>90%,否则用户等待时间不可接受
问题在于:传统算力架构是为训练设计的,不是为推理优化的。
传统集群里,卡与卡之间通过铜线或PCIe连接,通信延迟在微秒级。训练场景下,这个延迟可以接受;但推理场景下,用户等不起。
更关键的是,推理分为两个阶段,对硬件的需求完全不同:
推理两阶段架构
- 第一阶段:Prefill(预填充)——处理用户输入,计算Prompt的KV Cache。这个阶段需要高算力(大量矩阵运算),对内存带宽要求相对较低。
- 第二阶段:Decode(解码)——逐字输出回答。这个阶段需要高内存带宽(频繁读取KV Cache),对算力要求相对较低。
传统思路是"一块芯片包办所有"——Prefill和Decode都在同一张卡上完成。但两个阶段的需求相反,通吃路线在两端都有效率损耗。
超节点要解决的核心问题:如何让几千张卡像一张卡那样协同工作,把推理效率从"单卡能力"变成"系统级产能"?
• • •
二、超节点的技术核心:Scale-up互联架构
超节点的技术核心不是"更多卡",而是Scale-up互联——把多张卡在逻辑上变成"一台计算机"。
这里要区分两个概念:
Scale-out vs Scale-up:两种不同的扩展方式
- Scale-out(横向扩展):通过以太网/RDMA连接多个节点,每个节点独立工作,节点间通信延迟在微秒到毫秒级。适合训练场景,容错性好。
- Scale-up(纵向扩展):通过高速互联把多个芯片/节点紧密耦合,形成一个逻辑上的"大芯片",芯片间通信延迟在纳秒级。适合推理场景,延迟极低。
超节点走的是Scale-up路线。它的技术挑战在于:
1. 互联带宽:8192张卡要高速交换数据,互联带宽必须足够大
2. 通信延迟:推理场景对延迟极度敏感,必须压到纳秒级
3. 统一内存:所有卡要能访问同一块内存,不能有数据搬运损耗
我们来看华为昇腾950超节点是怎么解决这三个问题的。
2.1 灵衢(UnifiedBus):国产Scale-up协议
全球目前存在三条Scale-up技术路线:
| NVLink | 英伟达 | 576 GPU | 封闭 |
| UALink | AMD主导联盟 | 1024加速器 | 开放标准 |
| 灵衢(UnifiedBus) | 华为 | 8192 NPU | 开放(1.0规范已公开) |
灵衢1.0已用于昇腾384超节点(已商用750+套),灵衢2.0用于昇腾950超节点。
灵衢2.0的关键突破:芯片间通信延迟从2微秒压到200纳秒——快了10倍。互联带宽达到16.3 PB/s,是英伟达NVL144方案的62倍。
这个数字的意义在于:8192张卡在逻辑上变成"一台计算机",数据在纳秒级完成传输,推理过程不再有"卡间通信瓶颈"。
2.2 昇腾950的硬件设计:Prefill/Decode分拆
前面提到,推理的Prefill和Decode两阶段需求相反。华为的解法是:不做通吃,做专用。
| 昇腾950 PR | Prefill(预填充) | 高算力,处理Prompt | 2026年3月 |
| 昇腾950 DT | Decode(解码) | 高内存带宽,逐字输出 | 2026年8月 |
这种分拆设计的技术逻辑是:
传统方案:一张卡做Prefill + Decode
→ Prefill阶段:算力利用率100%,内存带宽利用率30%
→ Decode阶段:算力利用率30%,内存带宽利用率100%
→ 整体效率:两阶段都有浪费
昇腾950方案:PR专攻Prefill,DT专攻Decode
→ PR卡:算力利用率100%,专做矩阵运算
→ DT卡:内存带宽利用率100%,专做逐字输出
→ 整体效率:两阶段都拉到极致
基于昇腾950的DeepSeek V4 Flash,每卡每秒Token输出效率较V3提升160%。
2.3 统一内存与全光互联
昇腾950超节点的另一个技术亮点是统一内存架构:
昇腾950 SuperPod(1024卡版本)核心参数
- FP8总算力:1 EFLOPS(每秒100亿亿次)
- 统一内存:256 TB(所有卡共享)
- 互联带宽:16.3 PB/s
- 通信延迟:200纳秒(灵衢2.0)
- 互联方式:全光互联(使用数万只高速光模块)
256TB统一内存意味着:所有卡的内存被整合成一个大的内存池,任何一张卡都可以直接访问任何数据,不需要数据搬运。
"全光互联"则意味着卡间通信全部用光信号,不用铜线。光信号的优势是带宽高、延迟低、无电磁干扰。
这里有一个容易被忽略的细节:超节点里真正贵的,不只是芯片,还有光模块。
单套384节点的昇腾超节点,需要6912个400G/800G光模块,占硬件成本20%以上。8192卡版本需要的光模块数量更多。开源证券指出:同等算力输出下,国产集群对应的AIDC建设规模显著大于海外方案,从土地、电力到机柜、液冷配套的全链条均将受益。
• • •
三、超节点的工程挑战:不只是芯片问题
把8192张卡连在一起,不是"把线接上"那么简单。超节点带来一系列工程挑战:
3.1 散热:液冷是准入门槛
8192张卡集中在一个机柜里,功耗密度极高。东数西算政策要求PUE<1.25,一线城市液冷机柜占比要求>50%——不液冷,审批都过不了。
超节点散热方案对比
- 冷板式液冷:在芯片表面安装冷板,循环冷却液带走热量。成本较低,但散热上限有限。
- 全浸没式液冷:整个服务器浸泡在冷却液中。散热效果最好,PUE可低至1.04(中科曙光数据),但成本高。
- 风冷(低配版):Atlas 850E采用VCE相变散热,无需液冷改造,标准机房直接上。超节点门槛从省级智算中心打到区县级。
3.2 调度:50万卡不宕机
昇腾950超节点可以组合成Atlas 950 SuperCluster集群,算力规模超过50万卡。
50万卡实时调度,任意一张卡降频、断连或报错,都需要毫秒级隔离重分配,训练/推理不能停。
华为展台展示过50万卡调度系统,被多家媒体称为"WAIC技术含量最高的展项"。
"交付容易,养活难。超节点的护城河在软件,不在参数。"——WAIC现场从业者评价
3.3 软件生态:CUDA vs CANN
硬件参数在追,但真正难追的是软件生态。
CUDA经过近20年积累,拥有数十万开发者。昇腾CANN生态已适配超1000个模型,但与CUDA仍有数量级差距。
不过,推理时代的到来正在改变这个格局:
国产大模型的国产芯片适配进展(2026年7月)
- DeepSeek V4:发布当天完成昇腾适配,官方技术报告将昇腾与英伟达并列写入硬件验证清单
- Kimi K3:2.8万亿参数,基于昇腾超节点运行,API定价仅为GPT-5.6 Sol的28%
- 智谱GLM-5.2:开源首日完成昇腾、平头哥、摩尔线程、寒武纪、昆仑芯、沐曦、海光、壁仞八大国产平台全适配
- MiniMax M3:实现昇腾、摩尔线程、沐曦、昆仑芯、海光等Day 0适配
三年前国产大模型默认跑在英伟达上,国产芯片是备胎。现在国产模型发布当天就主动适配国产芯片——能上的全上。
• • •
四、从Token成本看超节点的价值
超节点的最终价值,体现在Token生产成本的下降。
全球LLM推理成本在3年内下降约1000倍——从每百万Token约20美元降至约0.40美元。
中国日均Token调用量在2026年3月突破140万亿,两年增长超千倍。推理场景对总算力的消耗占比已达约85%。
超节点通过架构创新,把Token生产的每一个环节都压到极致:
Token成本下降的技术路径:
1. 灵衢2.0互联延迟2μs→200ns → 推理响应更快
2. Prefill/Decode分拆 → 硬件利用率从60%提升到90%+
3. 统一内存256TB → 消除数据搬运损耗
4. 全光互联16.3PB/s → 卡间通信不再是瓶颈
5. 8192卡Scale-up → 系统级吞吐大幅提升
结果:每卡每秒Token输出效率提升160%(DeepSeek V4 Flash数据)
Token成本下降,直接影响模型层的定价策略。以Kimi K3为例:
| Kimi K3 | $3(缓存命中$0.30) | $15 |
| GPT-5.6 Sol | ~$15 | ~$75 |
| Claude Fable 5 | ~$15 | ~$75 |
K3的输入成本只有GPT-5.6 Sol的28%,输出成本也是28%。编程场景下缓存命中率超过90%,实际输入成本可以低到$0.30/百万Token。
多位分析人士的总结很精准:"以Sonnet级别的价格,提供Opus级别的产出。"
• • •
五、技术路线对比:中美三条Scale-up路线
超节点的技术竞争,本质是Scale-up互联协议的竞争。全球目前有明确技术路线的玩家:
三大Scale-up技术路线对比
- NVLink(英伟达):封闭路线,最大576 GPU互连,生态成熟但锁定严重
- UALink(AMD联盟):开放标准,最大1024加速器,2025年成立联盟
- 灵衢(华为):开放路线,最大8192 NPU,灵衢2.0技术规范已向产业界开放
三条路线的核心差异:
| 最大规模 | 576 GPU | 1024加速器 | 8192 NPU |
| 开放程度 | 封闭(英伟达专用) | 开放标准联盟 | 开放(规范已公开) |
| 互联介质 | 铜缆+光模块混合 | 铜缆+光模块 | 全光互联 |
| 商用状态 | 成熟(GB200/GB300) | 规划中 | 商用(384超节点750+套) |
| 生态锁定 | 强(绑定CUDA) | 中(多厂商) | 低(开放接入) |
从技术规格看,灵衢在最大规模和互联带宽上有优势;但从生态成熟度看,NVLink+CUDA仍是业界标杆。
不过推理时代的到来正在松动CUDA的生态锁定——当客户按Token计价时,芯片生态不再是决定性因素,系统级Token产出效率才是。
• • •
六、总结:超节点的技术意义
超节点不是一个简单的"更多卡"方案,而是一次算力组织方式的架构革命:
超节点的核心技术突破
- Scale-up互联:从"单卡作坊"到"系统级计算机",8192卡逻辑上变成一台机器
- 灵衢2.0:通信延迟从2μs压到200ns,互联带宽16.3PB/s
- Prefill/Decode分拆:硬件利用率从60%提升到90%+
- 统一内存:256TB内存池,消除数据搬运损耗
- 全光互联:数万只光模块协同,无电磁干扰
超节点的最终价值,体现在Token生产成本的结构性下降。当Token成本下降,模型层才有底气把价格打到海外的三分之一,整个AI产业的成本曲线才会持续向下。
2026年是国产超节点元年。未来两年,超节点将从"技术验证"走向"规模商用",成为AI推理时代的核心基础设施。
