跳到正文
原文
arXiv cs.CR· Peiying Zhu, Sidi Chang·· 12 小时前AI 评分72

验证器泄露答案导致闭环智能体调试中优化器失效

A Verifier Can Leak the Answer: Diagnosability Before Optimization in Closed-Loop Agent Debugging

AI 摘要

在闭环决策智能体的聚迹调试器中,精确最小命中集和贪婪方法在12/12开发案例中返回相同支持,且植入故障恢复率为9/12,但审计发现精确锚定谓词在9/9案例中泄露了答案。移除锚定后,整体植入故障对恢复率降至8/9,硬探测单例对仍匹配植入对在9/9,且传播后无残留冲突家族。作者提出支持门控验证契约:先通过参考图显示重复组件暴露,再建立匹配参考/当前门以获得可比运行证据,最后才允许独立校准的信号规则返回检测。在1,440个案例和21,600分区行的预注册留out中,55/72 regime-组件单元通过参考门,54/55通过运行门,稳定误准入为0/20表示组件,单侧精确95%上界为0.1391。在被准入单元中,受影响的清洁流量预测检测优于名义故障单元分数。事实:验证器通过锚定谓词泄露答案使优化器比较失效;推断:支持门控验证契约可防止此类泄露;猜测:该方法可能提升闭环智能体调试的可靠性。

来源:arXiv cs.CR · arxiv.org