超节点规模竞赛背后：连接更多芯片不等于模型跑得更快

AI 基础设施竞争正从单纯比拼 GPU 数量转向超节点（Super Node）的紧耦合协作能力，但行业存在将“连接更多芯片”误读为性能提升核心的风险。英伟达 GB200 NVL72、华为 CloudMatrix 384 及浪潮元脑 SD200 Ultra 等产品的出现，旨在通过统一寻址和高速互联减少跨节点通信开销，然而 DeepSeek 论文数据表明节点内与跨节点带宽差异巨大，且 Kimi K3 等大模型在未经优化的超节点上初始性能可能仅 10 tokens/s，证明物理连接规模无法自动转化为推理速度。

核心矛盾在于，增加芯片带来的理论算力若被数据搬运和同步等待抵消，单位经济效率反而下降。浪潮信息首席 AI 战略官刘军指出，超节点价值取决于具体模型的精度、上下文长度、并发请求及混合专家架构中的专家分布，而非单一参数总量。统一寻址虽解决了资源访问路径问题，但未消除远端显存访问的物理成本，软件调度与拓扑优化才是决定实际吞吐的关键。此外，长程 Agent 任务的可靠性、故障隔离机制以及机房供电散热等隐性成本，使得盲目扩大单域规模可能带来闲置风险和运维负担。

事实层面，当前超节点技术路线已明确指向统一内存编址与低时延互联，但不同厂商在芯片能力与互联机制上存在显著差异。推断认为，未来算力建设将从“规模竞赛”回归“系统效率判断”，合理配置应基于真实业务场景的尾部时延测试推导，而非厂商宣传的最大卡数。猜测部分，若行业继续沉迷于发布更大规模的超节点而忽视软件栈优化，可能导致大量高成本算力因通信瓶颈而无法有效服务前沿模型，造成资本开支浪费。