InfoQ 中文· 作者: Daniel Curtis·· 3 小时前精选AI 评分82
TypeSafe AI发布Jev:返回类型化概率而非文本的决策模型
TypeSafe AI发布Jev:一种只返回类型化概率而非文本的决策模型
AI 导读
旧金山AI实验室TypeSafe AI发布了首款System One Models产品Jev,该模型不生成自然语言文本,而是直接输出带有类型定义的概率化决策(Choice、Score、Noul),允许软件在置信度高于阈值时自动执行操作。Jev采用“校准决策强化学习”训练,输入成本为每百万Token 0.042美元且输出免费,端到端延迟介于70毫秒至500毫秒之间。
Vercel在发布次日将其接入AI Gateway,数据显示24小时内覆盖了近13%的付费团队,这一比例是GPT-5.6系列的两倍;Netlify和LangChain也迅速跟进集成。独立分析显示用户报告的速度提升中位数为7倍,成本节省中位数为30倍,延迟中位数为76毫秒。尽管官方宣称速度提升可达193.6倍,但实际观测值仍显著优于传统大语言模型。
事实层面,Jev通过结构化输出规避了无效类型,但仍可能输出完全错误的合法值,因此将幻觉风险转移给了调用方判断。推断层面,这种设计使其成为Agent路由、分类和工具调用的理想前置过滤器,能大幅降低算力成本并提升响应速度。猜测层面,随着Elixir客户端等生态工具的涌现,Jev可能在特定垂直场景形成替代LLM分类器的标准方案,但其处理长噪声状态信息和算术计算的可靠性仍需版本迭代验证。
推荐理由
材料揭示了Jev在24小时内付费团队渗透率及速度/成本优势,并指出其概率校准与幻觉转移机制对Agent路由的实际价值。
来源:InfoQ 中文 · infoq.cn