InfoQ 中文· 作者:Steef-Jan Wiggers·· 4 小时前精选AI 评分78
微软承诺将 Maia 推向数吉瓦级推理部署,但其效率指标引发质疑
AI 导读
微软宣布从 2027 年起将 Azure Maia 系列部署规模扩大至数吉瓦级,Maia 300 芯片预计每兆瓦处理的 Token 数量比领先 GPU 系统提高 40%,并计划接入 GitHub Copilot 和 Microsoft Foundry。该芯片专为推理设计,配备八组 HBM4 堆栈,单颗 TDP 为 950 瓦,采用基于以太网的定制 AI 传输机制以优化 Prefill 和 Decode 工作节点的独立部署与故障补偿。
业内质疑主要集中在效率指标的计量方式上,评论者指出“每瓦 Token 数”缺乏统一标准且可能奖励冗长输出,同时未明确测试时的上下文长度及对比的具体 GPU 系统。微软虽宣称提升每瓦有用 Token 数量,但未定义何为“有用”,且所有提及的工作负载均限于微软内部产品,未说明外部客户是否可直接预配算力或享受更便宜的预留吞吐量套餐。
事实层面,Maia 300 的架构细节如 NUMA 内存访问、18 TB/s 带宽及 Superpod 互联方案已公开;推断层面,若无法向客户提供可验证的单位经济模型,硬件效率提升未必转化为云服务价格优势;猜测层面,微软可能在 Ignite 2026 大会上补充技术论文以回应关于训练场景缺失及具体比较基准的疑问。
推荐理由
材料揭示了微软 Maia 300 效率指标缺乏基准定义且未开放客户预配,需校正对云推理成本优势的预期。
来源:InfoQ 中文 · infoq.cn