AgentSentry 论文提出基于时序因果诊断的间接提示词注入防御方案

该论文提出 AgentSentry，一种针对工具增强型大语言模型智能体中多轮间接提示词注入（IPI）攻击的推理时防御机制。其核心创新在于利用工具返回边界的局部反事实重执行进行时序因果诊断，通过恢复快照替换中介者并记录待处理提议是否存活，从而在用户意图与注入内容之间建立可验证的归属区分。

实验数据显示，在 AgentDojo 平台的四个任务套件、三个 IPI 攻击家族及三个黑盒 LLM 骨干网络评估中，该方法实现了 0% 的攻击成功率（ASR），平均攻击下效用（UA）达到 76.10%，相比最强基线提升 1.84 至 7.60 个百分点，良性误报率（FPR）控制在 2.06% 至 5.15% 之间。该研究还涵盖了长视界与自适应攻击场景、不完美的净化效果以及运行时开销分析，并包含 OpenClaw 案例研究。

事实层面，该工作已接受于 NDSS Symposium 2027，原始材料发布于 arXiv cs.CR 领域。推断层面，这种基于状态快照和反事实执行的防御思路可能改变当前依赖保守阻断或广泛过滤的安全架构，为智能体在开放环境中的长期运行提供新的工程化路径。猜测层面，该方法在处理极度复杂的嵌套上下文或动态变化的外部数据源时的实际性能表现，仍需更多真实世界部署数据的验证。