跳到正文
原文
TechCrunch · AI· Russell Brandom·· 3 小时前AI 评分57

Jev 成为 Vercel 平台上采用速度最快的 AI 模型,开源模型占据网关流量七成

Jev is Vercel’s fastest-adopted AI model ever

AI 摘要

根据 Vercel 发布的网关数据,TypeSafe AI 推出的决策模型 Jev 在发布两周内被 35% 的付费团队使用,这一采用速度超过了其竞争对手 Sonnet 5.5 的两倍,成为该平台历史上增长最快的模型。该数据证实了市场对轻量级、低成本决策模型的强烈需求,尽管此前缺乏硬性数据支持。

具体数据显示,Jev 作为专为从有限预定义输出中进行选择而设计的工具,因其运行成本更低、速度更快,迅速吸引了大量用户。与此同时,开源模型在 Vercel 网关处理的所有 token 中占比已超过 70%,总花费占比接近 25%。值得注意的是,尽管开源模型的市场份额在扩大,但前沿实验室(frontier labs)的支出增长了十倍,这表明两者可能并非零和竞争关系,而是互补共存。

事实层面,Jev 的采用率确实惊人,且开源模型在网关中的主导地位已确立。推断层面,这种趋势意味着开发者更倾向于将特定任务分配给高效、低成本的专用模型或开源方案,而非盲目追求通用大模型。猜测层面,随着更多类似 Jev 的专用模型出现,AI 基础设施的成本结构可能会发生根本性变化,推动行业向“混合架构”演进。

来源:TechCrunch · AI · techcrunch.com