跳到正文
原文
Hacker News · AI· bigwheels·· 2 小时前精选AI 评分92

Meta 发布 Muse Spark Open,首个可在双台 Apple M5 Ultra Mac Studio 本地运行的 816B 参数多模态智能体模型

Muse Spark Open

AI 导读

Meta 今日正式发布 Muse Spark Open,这是目前能力最强的美国开源权重模型,原生支持多模态,拥有 816B 总参数量(42B 激活)和 1M-token 上下文窗口,专为编码与智能体任务设计。该模型首次实现了在桌面端运行超大参数模型的能力,通过两台配备最新 MLX 框架的 Apple M5 Ultra Mac Studio 协同工作,利用每台设备高达 512GB 的统一内存,将两台机器组合成拥有 1TB 统一内存的超级计算机环境。

实测显示,该配置能完整承载模型并执行复杂的长周期智能体工作流,包括使用 Muse Code 为开源 Mastodon 客户端 Ice Cubes 提交修复、新功能及完整构建,以及端到端驱动 DaVinci Resolve 进行逐帧视频剪辑分析。模型权重已托管于 Hugging Face、Amazon SageMaker AI 等平台,并针对 SGLang、vLLM、TensorRT-LLM 等主流推理引擎进行了优化,同时提供 PyTorch TorchTitan 用于微调。安全评估方面,模型遵循 Meta 超智能扩展框架,通过了多项风险类别的阈值测试。

事实层面,该模型确实具备双机本地运行能力且参数规模达 816B;推断层面,这标志着端侧算力架构正从单卡限制转向多机集群化解决方案,可能降低企业私有化部署超大模型的门槛;猜测层面,若未来单芯片显存或互联带宽进一步提升,单机运行此类模型将成为可能,但当前仍需依赖特定硬件组合。商业上,虽然采用有限商业条款的 Muse Model License,但免费使用权仍鼓励开发者生态建设。

推荐理由

材料证实816B参数模型可双机运行于桌面,直接修正对超大模型必须依赖云端的行业假设。

来源:Hacker News · AI · research.meta.ai