arXiv cs.CR· Tianqi Song, Jiawei Du, Xuemei Jia, Zheng Wang·· 5 小时前AI 评分70
GRAD:基于图结构的 LLM Agent 抗体防御框架
GRAD: Graph-Structured Antibody Defense for LLM Agents
AI 摘要
该论文针对大语言模型智能体(LLM Agents)面临的记忆投毒和分解攻击,提出名为 GRAD 的防御框架。现有请求级防御因仅评估独立输入而遗漏跨操作的恶意证据,且难以适应任务上下文变化。GRAD 通过执行图将操作文本、事件属性和候选关系联合编码,实现分布式攻击证据的聚合与风险评分。
核心机制包含两部分:语义结构理解模块(SSUM)负责在图级别聚合证据;持续抗体适应(CAA)机制在冻结编码器快照上添加新专家,并通过可观测图签名路由输入,使检测能力随任务到来而获取和复用。实验显示,在 Decomp、MCP 和 MRT 三个基准上,GRAD 分别达到 97.19%、77.59% 和 86.60% 的 AUROC,优于 Sequential Monitor、Agent-Sentry 和 NeuroTaint。在跨数据集任务流中,CAA 相比 Replay 方案将最终准确率提升 13.08 个百分点,即使在各任务权重相等时仍保持 9.05 个百分点的优势。
事实层面,该框架实现了毫秒级本地推理且不监控 API 调用。推断层面,这种图结构化方法可能成为对抗复杂 Agent 攻击的标准范式,特别是当攻击者利用多步操作分散痕迹时。猜测层面,其“持续学习”特性在实际动态环境中是否会导致旧知识干扰或资源膨胀,仍需更多长期部署数据验证。
来源:arXiv cs.CR · arxiv.org