跳到正文
原文
The Decoder· Jonathan Kemper·· 2 小时前精选AI 评分78

Recursive 发布 Flint,首个由 Eureka Machine 全周期构建的本地化 MoE 编码模型

Recursive shows first result of its AI-driven research process with Flint

AI 导读

Recursive 发布了其首款语言模型 Flint,这是一个专为本地硬件上的智能体编码设计的混合专家(MoE)模型,总参数 40B,每 token 激活 2.5B。该模型由名为 "Eureka Machine" 的 AI 系统主导开发,该系统自主完成了从架构设计、训练数据准备到推理优化的全流程。Flint 在 SWE-Bench Pro v2、Terminal-Bench 2.1 等基准测试中表现优异,声称在少于 50B 参数的 MoE 模型中领先。

关键的技术细节在于其极端的量化策略与硬件适配。Eureka Machine 将输出层量化至 4-bit (NVFP4),并通过蒸馏步骤恢复精度,使得最终模型在基准测试中仅比 16-bit 版本落后 0.7 分。针对 Apple Silicon,系统构建了 Metal megakernel,将前向传播合并为单一操作,使 Flint 在 M4 Pro 上生成速度超过 125 tokens/s,是同类 MoE 模型的两倍。模型权重以 Apache 2.0 协议在 Hugging Face 开源,支持 llama.cpp、Ollama 及 Recursive 自研的 rec 引擎。

尽管 Flint 展示了自动化研发流程的初步成果,但关于递归自我改进的长期愿景仍需谨慎看待。文章指出,虽然 Anthropic 和 OpenAI 也在利用 AI 辅助研发,但人类在关键研究决策中仍占主导地位。Flint 的成功证明了 AI 可以高效完成特定技术栈的构建,但要证明它能让 Eureka Machine 本身变得更强大,从而形成加速的自我迭代循环,目前尚无证据。这属于事实陈述与推断的结合:模型性能提升是事实,而自我改进的可行性仍是推测。

推荐理由

Flint 的 NVFP4 量化与 M4 Metal megakernel 优化提供了 MoE 在消费级硬件上实现高吞吐推理的具体工程路径。

来源:The Decoder · the-decoder.com