Proof Before Reuse：防止AI智能体记忆污染的防御机制研究

该研究针对 AI 智能体在程序化记忆中学习技能时可能遭遇的投毒问题提出了一种名为 Proof Before Reuse 的防御机制。实验设定中，一个编码智能体从测试通过的会话中学习技能，其中一次会话被植入包含无关行或融合行的投毒数据，随后进行三次清洁会话。在对比无记忆、回放记录编辑、朴素记忆（Mem0 搜索保留所有通过会话）与 Proof Before Reuse 四种策略后，结果显示回放策略在所有 30 个仓库中均重新引入了投毒且测试全部通过，朴素记忆在 3/30 次会话中暴露了投毒，而 Proof Before Reuse 策略在包括融合投毒通过步骤级检查但被行级过滤移除的情况下，实现了 0/30 的暴露率。 核心证据在于其验证逻辑：只有当某个技能的修改被后续两个会话复现并通过测试时，该技能才会被提供给智能体，且智能体仅能看到这些后续会话共同编写的行。然而，作者明确指出该研究的局限性，包括仅针对单一任务、每臂样本量 n=5 导致统计显著性不足（p≈0.24），且未观察到模型实际应用了投毒（仅测量暴露而非危害）。此外，若投毒直接放置在仓库本身，该方法将失效，这一失败案例已在论文中说明。 事实层面，该机制有效阻断了特定条件下的技能污染传播；推断层面，行级复用作为信任信号可能过度奖励清洁会话中的偶然重复行为，而非真正识别正确性；猜测层面，这种基于多轮复现的筛选机制是否适用于更复杂的长周期任务或不同模型架构仍需进一步验证。