跳到正文
原文
Latent Space·· 3 小时前精选AI 评分82

Reflection 发布 Beam 501B-A23B 开源模型并披露训练规模与算力投入

[AINews] Reflection Beam - 501B-A23B American Open Model

AI 导读

Reflection 宣布推出名为 Beam 的开源大语言模型,这是一个总参数 501B、激活参数 23B 的稀疏 MoE 架构,专注于编码、智能体和科学工作。该模型从 scratch 训练,预计本月发布 Apache 2.0 全权重。尽管其宣称在 SWE-bench Verified 上达到 80.9 分,但行业观察指出其性能仍落后于 GLM 5.3、Kimi K3、Qwen 3.8 Max 和 DeepSeek V4.1 Flash 等中国竞品。

材料披露了 Beam 的训练规模:预训练使用了 23.8T tokens,包含 OCR 处理的数百万 PDF;RL 阶段在约 10,500 张 GB300 GPU 上运行了超过 1 亿次 rollouts。Axios 报道指出 Reflection 每月支付 1.5 亿美元用于 Colossus 算力,并签署了 10 亿美元的 Nebius 协议。架构分析显示其仅实现了约 12% 的 BF16 MFU,且被指为 DeepSeek V3 的等 FLOP 复制品。

此外,本周行业还关注到 Anthropic 订阅服务相比 OpenAI 提供 5 倍以上的 API 等效价值,以及 OpenAI 因容量限制暂停新用户注册。安全方面,OpenAI 将在欧盟实施文本水印,而 NVIDIA 正在探索基于采样验证的强化学习环境。

推荐理由

Beam 的 MoE 架构与 RL 训练细节揭示了美国开源模型在算力成本下的技术路径,可校正对中美开源差距的判断。

来源:Latent Space · latent.space