跳到正文
原文
TechCrunch · AI· Tim Fernholz·· 2 小时前精选AI 评分82

OpenAI 将基于 Luna 重构的 Decisions API 向全量用户开放

OpenAI makes its Jev competitor widely available as decision model competition heats up

AI 导读

OpenAI 正式将其 Decisions API 模型向所有客户开放,该服务旨在提供快速、低成本的智能决策能力,直接对标由前前沿实验室研究员创办的初创公司 TypeSafe 及其 Jev 模型。这一举措标志着决策模型(Decision Model)或 System One 模型市场进入白热化竞争阶段,开发者发现此类模型能以显著更低的成本和更快的速度替代传统 LLM 处理特定工作流。

核心事实显示,OpenAI 并未专门训练新的校准决策模型,而是将 ChatGPT Luna 重新配置以加速推理并降低成本,将响应时间从 1 至 3 秒压缩至 100 至 180 毫秒。在公开基准测试中,OpenAI 的决策模型表现中等,在 AIM System One Index 和 Artificial Analysis Decision Index 中分别排名第八和第十四,落后于 Liquid 的 D1 Ultra 和 Base Lab 的 Elephant-1,但在趣味性的 JevMan(吃豆人游戏)基准中,Jev 模型仍居榜首。尽管 TypeSafe 目前仍是 OpenRouter 上查询最多的选项,但 OpenAI 强调其在多模态方面的优势,特别是图像分类和校准能力,Luna 在此领域展现出更强的灵活性。

推断来看,OpenAI 的策略是利用现有强大模型(Luna)的通用能力进行工程优化而非架构重塑,以此快速抢占市场。这种“即插即用”的优化路径可能使决策模型在视频帧处理等对延迟极度敏感的场景(如目标 60 毫秒)成为可能。猜测认为,随着成本进一步降低,原本被高延迟 LLM 阻挡的隐蔽用例将被释放,正如经济学家 Jevons 所预测的那样,廉价商品将变得无处不在。事实层面,目前已有 Box、Datadog、Ramp 和 Speak 等客户在试点中利用该 API 提升了吞吐量,Speak 甚至将动作间隔从 1.4 秒缩短至 0.13 秒。

推荐理由

材料揭示了 OpenAI 通过重构 Luna 实现决策 API 的量产,其速度提升机制与 TypeSafe Jev 形成差异化竞争。

来源:TechCrunch · AI · techcrunch.com