Microsoft Maia 300 发布,宣称能效提升并计划于 2027 年成为主要推理系统
Microsoft’s new AI chip makes it less reliant on Nvidia’s GPUs
Microsoft 今日宣布推出第三代自研 AI 芯片 Maia 300,旨在将其作为 Microsoft 产品和服务的主要 AI 推理系统。该芯片预计将于 2027 年开始投入生产环境,设计重点在于提升运行 AI 工作负载的成本效益和效率。
根据 Microsoft 云集团执行副总裁 Scott Guthrie 的说法,Maia 300 相比领先的基于 GPU 的系统,每兆瓦可多提供 40% 的 token 吞吐量;在完整的 96 加速器配置下,其机架级 token 吞吐量可达 Maia 200 的 7 倍。Maia 300 采用新的 chiplet 架构,基于 TSMC N2P 工艺节点,将计算、内存控制器和 I/O 功能分离,从而增加用于计算性能的硅面积并为每个功能选择最适合的技术。这使其能够处理长上下文推理、延迟敏感型对话体验以及持续的多步骤 Agent 任务等新类型的 AI 工作负载。
Maia 200 已于今年 1 月宣布,目前已在 Microsoft Copilot、GitHub Copilot、Microsoft Foundry 及 Microsoft 自有 AI 模型等生产环境中运行。Guthrie 表示,Maia 200 是 Microsoft 机队中表现最好的 AI 基础设施。Maia 300 的推出是 Microsoft 全栈 AI 战略的一部分,旨在通过拥有并协同设计平台来缩小与 Google DeepMind、OpenAI 和 Anthropic 的差距。推断:随着 Maia 300 的大规模部署,Microsoft 对 Nvidia 和 AMD GPU 的依赖度可能会降低。猜测:具体何时能完全替代外部 GPU 仍取决于实际部署规模和性能验证结果。
Maia 300 的片上架构与能效指标直接校正对微软自研芯片量产时间点的判断。
来源:The Verge · AI · theverge.com