前 OpenAI 研究员 Diogo Almeida 发布 Jev 模型,主张用 RLCD 替代 RLHF 以解决 AI 自动化决策的可靠性问题
Codex 和 Claude Code 都跑偏了,前 OpenAI 研究员称 Jev 出现前 AI 世界是个悲剧
TypeSafe CEO、前 OpenAI InstructGPT 参与者 Diogo Almeida 发布名为 Jev(System One 模型)的新模型,其核心目标是让代码直接消费模型输出,而非仅作为人类对话助手。Almeida 认为在 Jev 出现之前,尽管 AI 能解决复杂数学难题,却因缺乏可靠的接口而无法自动化基础工作,称这一阶段为“悲剧”。该模型通过面向校准决策的强化学习(RLCD)优化,旨在提供经过概率校准的选择、评分和置信度,使开发者能依据不确定性阈值控制程序流程。
技术细节上,Jev 摒弃了传统 RLHF 导致的“模式坍缩”(mode dropping),即模型倾向于生成安全但概率分布失真的常见答案,转而追求真实置信度的表达。模型输出被定义为三种可编程类型:Choice(对应枚举分支)、Noul(基于伯努利概率的条件判断)和 Score(用于排序筛选)。Almeida 强调,这种设计将智能视为数据库般的基础设施,区分了“能力对齐”(按指令执行)与“安全对齐”(服从提供方规则),主张通用 API 不应在底层硬编码特定价值判断,以免在后台运行时突然中断流程。目前日调用量已超一万亿 Token,且团队正快速迭代版本,暂不承诺永久维护旧版。
商业与应用层面,Jev 聚焦四类场景:分析高成本闲置的“暗数据”、实时流程判断、验证其他模型输出以及嵌入软件核心逻辑。Almeida 反对依赖公开基准榜单,主张通过内部评测衡量“每美元智能”,并建议开发者将任务拆分为最小语义单元进行独立评估。他明确表示不会自行进行昂贵的预训练,而是通过组合现有能力和数据工程来释放价值,同时呼吁行业探索摆脱 KV Cache 限制的编程 Agent 新设计模式。事实部分基于访谈实录,推断部分涉及对 RLCD 技术路线可行性的预期,猜测部分关于未来多模型动态调度机制尚未成为产品承诺。
Diogo Almeida 指出 RLHF 导致概率校准失真,提出 RLCD 训练目标与 Choice/Noul/Score 输出机制,为构建可自动化的软件基础设施提供了具体技术路径。
来源:InfoQ 中文 · infoq.cn