GRAD提出图结构抗体防御机制对抗LLM Agent攻击

该论文针对大语言模型智能体（LLM Agents）面临的记忆投毒和分解攻击，提出名为 GRAD 的防御框架。现有请求级防御因仅评估独立输入而遗漏跨操作的恶意证据，且难以适应任务上下文变化。GRAD 通过执行图将操作文本、事件属性和候选关系联合编码，实现分布式攻击证据的聚合与风险评分。 核心机制包含两部分：语义结构理解模块（SSUM）负责在图级别聚合证据；持续抗体适应（CAA）机制在冻结编码器快照上添加新专家，并通过可观测图签名路由输入，使检测能力随任务到来而获取和复用。实验显示，在 Decomp、MCP 和 MRT 三个基准上，GRAD 分别达到 97.19%、77.59% 和 86.60% 的 AUROC，优于 Sequential Monitor、Agent-Sentry 和 NeuroTaint。在跨数据集任务流中，CAA 相比 Replay 方案将最终准确率提升 13.08 个百分点，即使在各任务权重相等时仍保持 9.05 个百分点的优势。 事实层面，该框架实现了毫秒级本地推理且不监控 API 调用。推断层面，这种图结构化方法可能成为对抗复杂 Agent 攻击的标准范式，特别是当攻击者利用多步操作分散痕迹时。猜测层面，其“持续学习”特性在实际动态环境中是否会导致旧知识干扰或资源膨胀，仍需更多长期部署数据验证。