跳到正文
原文
Hacker News · AI· cmrdporcupine·· 3 小时前精选AI 评分88

Inception Labs 发布 Mercury 3 扩散大语言模型,宣称性能超越 GPT-6 Luna 并实现 1000 tok/s 推理速度

Inception "Mercury 3", 1000 tok/s diffusion LLM

AI 导读

Inception Labs 正式推出 Mercury 3,这是一款基于扩散架构的大语言模型,官方宣称其在多项基准测试中表现优于 GPT-6 Luna 和 Claude Haiku 5.5,同时推理速度达到 1,068 tokens per second(NVIDIA GPU 环境)。该模型将上下文窗口扩展至 1M tokens,参数量较 Mercury 1 扩大超过 40 倍,旨在证明文本扩散模型能够像自回归模型一样进行大规模扩展。

在商业化细节上,Mercury 3 的定价极具侵略性:标准价格为输入每百万 token 0.20 美元、输出每百万 token 0.70 美元,首发期间更是低至输入 0.10 美元、输出 0.35 美元,且缓存 token 享有 90% 折扣。实测数据显示,在 Mind2Web 导航任务中,Mercury 3 完成了 50% 的任务,显著高于 GPT-6.1-Sol,且使用了相同的 token 量和代理步骤数。此外,Inception 还发布了配套的 Mercury Voice(针对语音低延迟优化)和 Mercury Decide(针对高容量分类决策)两个专用模型。

事实层面,Mercury 3 确实提供了 API 兼容 OpenAI 接口的服务,并支持企业级部署。推断层面,这种极低的单位经济模型(Unit Economics)配合 1M 上下文和高速推理能力,表明 Inception Labs 正试图通过技术架构差异(Diffusion vs Autoregressive)来颠覆现有的实时 AI 应用市场,特别是浏览器 Agent 和实时教育领域。猜测层面,虽然官方声称“扩散可扩展”,但考虑到 Diffusion 模型通常涉及多步迭代生成,其在复杂逻辑推理上的实际表现仍需更多独立第三方评测验证,目前的基准数据主要依赖官方提供的图表。

推荐理由

材料证实扩散模型在 1M 上下文与 1000 tok/s 速度下具备商业可用性,且定价策略显示其试图通过极低边际成本抢占实时推理市场。

来源:Hacker News · AI · inceptionlabs.ai