工具输出格式化缺陷误导AI验证器实证研究

该论文指出即使工具计算正确，其文本输出若省略搜索限制、结果上限或命名空间等关键元数据，会系统性误导 Agent 和验证器做出错误判断。研究基于 Pilsudski Institute 的生产级 RAG 系统发现，修复后的格式化版本使三个失败类型的无依据主张大幅下降，验证器在特定测试中从完全接受错误答案（90/90）转变为完全拒绝（90/90）。 作者通过对比两种格式化版本的输入实验，证明信息完整性直接决定验证结果：当补充缺失事实后，验证器能有效识别错误。研究团队开发的审计提示词在 Codex 和 Claude Code 上演示时，不仅重新发现了自身系统的遗留缺陷，还额外挖掘出十二个未编目的问题；该提示词在 OpenClaw 和 Hermes 两个知名开源 Agent 系统中也检测到了类似的格式化扭曲，其中 OpenClaw 的修复已合并入主分支。 事实层面确认了工具输出格式与验证准确率之间的强因果关系；推断表明当前许多 Agent 系统的可靠性瓶颈不在推理模型本身，而在下游工具输出的信息透明度；猜测部分认为若行业不统一工具输出标准，类似“幻觉”将长期存在于多智能体协作流程中。建议从业者立即使用文中提供的提示词对自身系统进行审计，而非仅依赖模型层面的对齐优化。