DREAM机制实现LLM Agent记忆投毒无训练修复

arXiv cs.AI 论文提出 DREAM（Dynamic Reactivation for Engram Attenuation in Memory），一种针对大语言模型智能体记忆投毒攻击的无训练修复框架。该研究利用神经科学中弱再激活导致记忆不稳定的机制，使智能体能够选择性遗忘被污染的内存，同时保留良性功能。 实验数据显示，DREAM 在对抗后门投毒时能将攻击成功率降低超过 95%，并在多智能体系统中保持 92.96% 的任务成功率。相比现有方案 A-MemGuard，DREAM 在运行时速度提升达 2.13 倍，Token 消耗减少 37.7%。其核心流程包含三个阶段：通过扰动诱导隐式再激活揭示恶意内存的结构脆弱性、基于多维激活模式的自适应异常诊断、以及动态内存修复模块以抑制有害记忆并强化良性记忆。 事实层面，该框架完全内嵌于智能体训练之外，依赖激活模式而非外部审计模块进行防御。推断上，这种机制可能改变当前 AI 安全领域对“防御即高成本”的假设，证明通过类脑机制可在不牺牲性能的前提下实现高效清洗。猜测成分在于其在极端复杂或长期演化场景下的泛化能力，目前仅验证于 diverse attackers 和 real-world tasks 的特定基准。