AWS Machine Learning Blog· Aris Tsakpinis·· 2 小时前精选AI 评分82
Meta Muse Spark Open 在 Amazon SageMaker JumpStart 上线并提供两种量化变体
Meta’s Muse Spark Open now available in Amazon SageMaker JumpStart
AI 导读
Meta 发布代码优化的开源权重模型 Muse Spark Open,现已在 Amazon SageMaker JumpStart 中可用。该模型采用混合专家(MoE)架构,拥有 816B 总参数和 42B 激活参数,支持 100 万 token 上下文窗口,专为长周期编码智能体和多模态推理设计。
AWS 提供了两个部署变体:BF16 精度版本和 NVFP4 量化版本。关键细节在于实例选择逻辑:NVFP4 变体运行在 ml.p5e.48xlarge 实例上,而 BF16 变体必须使用 ml.p6-b300.48xlarge。这一配置差异表明,尽管模型是稀疏激活的,但全量参数的存储需求决定了底层硬件选型,且 NVFP4 因显存占用约为 BF16 的四分之一,成为控制成本的首选方案。
作为推理模型,Muse Spark Open 在输出最终答案的同时返回 reasoning_content,允许开发者观察其思考过程。部署后,应用需自行提供工具调用、浏览器访问及计算机操作环境,模型负责规划与执行。事实层面确认了模型已上线;推断层面,对于追求单位经济性的企业,优先评估 NVFP4 变体而非盲目追求 BF16 的高精度可能是更优策略;猜测层面,该模型是否能在非 AWS 环境下复现同样的 MoE 效率优势仍需验证。
推荐理由
通过 NVFP4 与 BF16 的实例映射差异,直接校正对 MoE 模型显存占用与成本结构的判断。
来源:AWS Machine Learning Blog · aws.amazon.com