跳到正文
原文
arXiv cs.CR· Yuanbo Xie, Mingli Zhu, Tianyun Liu, Yingjie Zhang, Haixiao Xiong, Tingwen Liu·· 5 小时前AI 评分65

Typed Decision Models 在逻辑等价表述下回退选项执行存在显著不一致性

Lost in the Fallback: How Reliably Do Typed Decision Models Use Fallback Options?

AI 摘要

该研究针对日益广泛应用于请求路由和模型选择的 Typed Decision Models (TDMs),发现其非对抗环境下的回退机制可靠性存在严重缺陷。作者提出 Paired Fallback Robustness (PFR) 测试,评估模型在常规选项与回退选项间切换的正确性,以及在逻辑等价定义下决策的一致性。实验表明,即使模型能正确识别类别,也无法可靠地触发预设的回退选项;当同一回退规则以逻辑等价的表述出现时,模型决策会产生实质性分歧。

这一发现揭示了当前 TDMs 的关键可靠性缺口:旨在提升系统鲁棒性的回退机制反而可能引入错误。研究通过控制架构和参数量对比,证实了这种不一致性并非偶然,而是模型在忠实执行规则方面的系统性短板。这意味着依赖单一模型进行复杂路由或任务分派的系统,若未对回退逻辑进行严格验证,极易因表述差异导致服务降级或错误转移至人类专家。

事实层面,PFR 测试已验证开源决策模型在三个基准上的表现,确认了逻辑等价性无法保证决策一致性。推断层面,这暗示现有的 Agent 框架中基于规则的路由模块可能存在隐蔽风险,需重新审视其对齐机制。猜测层面,未来可能需要引入专门针对回退一致性的微调策略或验证层,但这尚未在文中得到证实。

来源:arXiv cs.CR · arxiv.org