云写程序结合端侧模型解释提升Agent成功率

该研究针对云端大模型执行任务需读取用户隐私数据与端侧小模型（SLM）数据本地化但效果差的两难问题，提出一种混合架构：由云端模型编写程序，但在运行中遇到依赖运行时内容的问题时，通过函数调用将有限问题 defer 给端侧小模型进行解释。在AppWorld基准测试中，这种架构在所有六种骨干模型与测试分区的组合下，均比纯代码Agent提升了成功率，最高达14.9个百分点。 关键证据显示，该方法成功恢复了云端ReAct循环相当一部分的性能差距，同时严格保持了用户数据在设备本地的安全属性。实验未涉及具体模型参数量或训练细节，仅验证了“云写程序+端侧解释”这一机制的有效性。文中明确区分了三种模式：纯云端（数据泄露风险）、纯端侧（性能不足）和本文提出的混合模式（平衡安全与性能）。 事实层面，该架构在特定基准上实现了性能回升；推断层面，这种设计可能成为未来隐私敏感型Agent的主流路径，特别是当端侧模型推理能力持续增强时；猜测层面，若该机制能扩展到更复杂的长程规划任务，或许能进一步缩小与全云端方案的差距。目前结论仅限于AppWorld环境，尚未验证在真实复杂业务流中的表现。