WebAgentGuard 通过并行守卫模型检测 Web Agent 中的提示注入攻击

该论文提出 WebAgentGuard，一种基于推理驱动的多模态守卫模型，用于检测 Web Agent 中的提示注入攻击。研究采用并行架构，让专用守卫代理与主 Web 代理同时运行，将攻击检测从主代理的推理过程中解耦，从而在保持代理功能的同时提升安全性。实验表明该方法在多个基准测试中持续优于现有强基线，且未引入额外延迟。

研究团队构建了包含 164 个主题和 230 种视觉及 UI 设计风格的合成多模态数据集，使用 GPT-5 生成数据，并通过推理密集型监督微调（SFT）结合强化学习进行训练。这种数据构建方式直接针对 HTML 或渲染截图中的对抗性指令场景，弥补了传统系统提示防御和直接微调效果有限的不足。

事实层面，该工作已提交至 arXiv (cs.CR) 并被 WACV 2027 接收，核心机制是并行守卫与多模态推理。推断层面，这种解耦架构可能成为未来 Web Agent 安全标准配置的一部分，特别是当 Agent 需要处理复杂网页交互时。猜测层面，合成数据的泛化能力是否足以覆盖真实世界中不断演变的攻击手法仍需后续实证检验，但当前结果提供了明确的改进方向。