论文提出工具解决 Agent 生成 GPU 内核在动态批处理下的数值不一致问题

该研究指出当前基于 Agent 的 GPU 内核生成系统普遍忽视批处理不变性（Batch Invariance, BI），导致同一请求在不同运行批次中因上下文变化产生数值输出差异，破坏可复现性。作者团队在 83 个已发布的适用批处理的工件中发现 19 起确认的 BI 违规案例，并提出了名为 \tool 的插件组件，通过合同引导的静态依赖分析与跨批次位级一致性动态验证相结合，强制实施 BI 约束。

实验数据显示，将\tool作为优化循环中的连续验收门控集成到三个不同的 Agent 框架后，BI 通过率从 67.6% 提升至 91.9%，同时保留了基线几何平均加速比的 91.8%。这一结果证明该工具能在不显著牺牲性能的前提下，将可靠性作为独立目标纳入 Agent 的内核优化流程，解决了现有方法仅关注正确性和效率而忽略环境敏感性的缺陷。

事实层面，该工作证实了动态批处理环境下的数值非确定性是真实存在的工程隐患，且现有 Agent 生成的代码存在系统性漏洞；推断层面，这意味着未来构建高可靠的大模型推理服务时，必须将此类不变性检查纳入自动化验证闭环，否则生产环境的随机性可能导致难以追踪的故障；猜测层面，随着端侧和云侧推理负载进一步向动态批处理迁移，此类工具可能成为标准库的一部分，但具体 adoption 速度取决于主流 Agent 框架是否原生支持此类扩展接口。