arXiv cs.AI· Genliang Zhu, Xiaobo Chen, Ziyuan Wang, Chu Wang·· 1 天前AI 评分68
论文提出基于公开证据引导的 AI Agent 任务恢复方法以应对工具执行模糊性
Evidence-Guided Recovery for AI Agents with Ambiguous Tool Outcomes and Partial Execution
AI 摘要
该研究针对 AI Agent 在执行过程中因工具超时导致结果模糊(失败、已提交或进行中)及部分执行的问题,提出了基于证据引导的任务恢复框架。该方法通过审查已批准的义务、提供者能力及与公开证据兼容的状态来处理不确定性,利用共享的可接受性检查处理关键过期、授权时机、依赖关系和残留效应,并通过终端证书区分实际目标满足与公共支持的安全完成。
在包含 37 个任务的有限研究中,规划与三种主动控制共同认证了 28 个完成案例;而在预注册的保留任务对比中,评估建议接口在 19 个任务家族的 58 个配对单元上,使用 272 次提案实现了 30 个完成,而证据提示法仅实现 9 个,差异达 36.2 个百分点(p=0.0078),且所有 116 条轨迹均通过独立重放验证。该机制明确保留了未知和移交结果,其保证绑定于声明的提供者能力而非任意第三方的精确一次执行。
事实层面,该论文展示了在特定实验设置下,引入外部证据约束能显著提升 Agent 在模糊环境下的任务完成率。推断层面,这种机制可能降低 Agent 在复杂工作流中的幻觉风险,特别是在涉及金融交易或不可逆操作等高风险场景中。猜测层面,该方法是否适用于大规模实时系统仍需验证,因为当前研究仅基于两个本地模型束和有限的合成数据,尚未展示在动态开放环境中的泛化能力。
来源:arXiv cs.AI · arxiv.org