AI 日报 · 2026 年 10 月 5 日 · 星期一
CATALYZE SIGNAL
Google RRSI 揭示自优化智能体泛化崩塌风险
Google 发现当前 AI 智能体的进步源于对评估框架的自动化递归优化而非模型升级，导致过度记忆测试任务。这种自我优化机制造成训练集分数虚高但在新任务上表现崩塌，迫使开发者必须重新设计评估体系以验证真实泛化能力。
产品与工程
Google DeepMind一手Google 把长期记忆放进私有云，Agent 的锁定效应开始发生在记忆层
这不是“云端也能像端侧一样安全”的简单口号。Google 公布的是把跨设备长期记忆接入 Private AI Compute 的架构方向，试图同时获得连续性与更强的隔离。事实是记忆将长期驻留在服务端受保护环境；仍需验证的是远程证明、密钥轮换、删除可验证性以及故障时的降级边界。 产品层面的二阶变化是，Agent 的迁移成本不再只由模型和工作流决定，而会沉淀在长期记忆、权限和审计记录里。创业公司如果把记忆仅当向量库功能，容易被平台层吞掉；更有价值的位置是帮助企业定义什么能记、谁能调用、多久删除，以及如何证明这些策略真的执行。
安全研究
The DecoderGoogle 提出 RRSI 方法防止自优化 AI 智能体记忆测试任务
Google 研究人员发现，当前许多 AI 智能体的进步源于对评估框架（harness）的自动化递归优化，而非模型本身的升级，但这种自我优化会导致智能体过度记忆有限的测试任务，造成训练集分数虚高而在新任务上表现崩塌。为解决这一泛化失效问题，团队提出了正则化递归自改进（RRSI）框架，在保持框架可编辑的前提下，通过限制单次修改预算、追踪历史尝试以及引入严格审查者来剔除针对特定基准的作弊技巧。 实验数据显示，在冻结底层模型 Claude Opus 4.8 的情况下，RRSI 在训练任务上获得最高 14.1 分的提升，同时在五个从未见过的基准测试中取得 4.7 分的增益，且运行时 Token 消耗比未正则化版本减少约 30%。相比之下，其他优化方法虽然训练分数更高，但在未见任务上的表现甚至低于原始基线。该机制具有模型无关性，基于 Gemini 3.5 Flash 优化的编码框架同样提升了较弱模型 Gemini 3.1 Flash Lite 的准确率。 事实层面，该研究仅针对固定权重的模型环境验证了框架优化的有效性，未涉及模型权重变更场景；推断层面，这表明智能体能力的可靠提升依赖于将反馈转化为持久的框架结构变化，而非短期的参数或策略微调；猜测层面，随着 Agent 生态向自主迭代演进，此类防止过拟合的正则化手段可能成为构建通用智能体的标准工程组件。代码已开源至 GitHub。