LLM Agent 记忆投毒防御的良性成本与 Token 开销研究
先了解这件事
2026年10月23日，一项arXiv研究通过对照实验分析了LLM Agent内存投毒防御机制的成本。研究发现，在几乎全为良性流量的场景中，写时防御（清洗、溯源检查等）未触发且无精度损失；而读时重排序器虽仅增加2.7%的token开销，却因误判导致45%的问题被拒绝提供记忆支持，使核心准确率下降4.4个百分点。该研究测试了四种防御策略，并指出当堆叠全部四种防御时会产生显著隐性成本。
AI 根据报道生成 · 4 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- arXiv cs.CRLLM Agent 内存投毒防御在良性流量下产生 token 开销并降低核心准确率
该研究通过固定后端、检索与评估框架的对照实验，发现针对 LLM Agent 的内存投毒防御机制在几乎全为良性流量的实际场景中会产生显著隐性成本。测试覆盖四种防御策略，结果显示写时防御（清洗、溯源检查、LLM 异常检测）在良性流量中从未触发且未造成可测精度损失，而读时重排序器虽仅增加 2.7% 的 token 开销，却因误判导致 45% 的问题被拒绝提供记忆支持，进而使核心准确率下降 4.4 个点。 实验细节显示，当堆叠全部四种防御时，token 总开销升至 4.1%，但并未叠加精度损失；然而盲审发现，重排序器丢弃记忆的决策中仅有 2/50 能找到基于内容的合理依据。这表明当前防御逻辑过度依赖上下文消耗而非内容实质，且攻击成功率指标无法反映此类良性环境下的性能折损。作者强调成本主要取决于各防御机制的判断行为与上下文用量，而非是否调用 LLM。 事实层面，本研究证实了特定防御架构在零攻击假设下的具体数值代价；推断层面，这意味着高安全标准的 Agent 系统若不加区分地堆叠防御，可能因 token 成本上升和响应率下降而损害商业可行性；猜测层面，未来行业可能需要重新定义安全基准，将良性流量下的效用保留率纳入核心评估体系，否则现有安全方案的实际部署成本将被严重低估。
本事件热度走势
当前热度 9·可比范围峰值 9（10月23日 14:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。