AdvGuard 框架通过跨查询图分析检测并缓解基于查询的系统提示词泄露攻击

这篇来自 arXiv cs.CR 的论文提出了 AdvGuard，一个模型无关的框架，用于检测和缓解针对大型语言模型（LLM）专有系统提示词的基于查询的泄露攻击。现有防御措施通常独立评估查询，忽略了在多轮交互中出现的恶意行为，而 AdvGuard 利用有界语义交互图对跨查询关系进行建模，从而捕捉区分协同提取与良性工作流的多跳模式。

在混合查询评估中，AdvGuard 相比最强基线将召回率提高了高达 36%，同时保持不超过 3.4% 的误报率；在多轮工作负载下，其 F1 分数达到 97.23%-99.1%，召回率为 100%。在排除特定攻击家族的测试中，平均召回率达到 99.98%，平均 F1 分数为 99.99%，且未观察到误报。当集成到自适应 PLeak 和 LeakAgent 攻击循环中时，该框架将精确匹配泄露限制在 0.00-0.01，子串匹配泄露限制在 0.01-0.09。

事实层面，该研究展示了在未见过的攻击家族中具有鲁棒的检测能力，并显著减少了提示词重建的可能性。推断层面，这种基于图卷积网络（GCN）的分类方法表明，仅靠单点防御已不足以应对复杂的对抗性交互，未来的安全架构必须纳入时序和上下文关联分析。猜测层面，虽然结果令人鼓舞，但实际部署效果可能受限于计算开销和特定场景下的攻击变种，需进一步观察其在大规模生产环境中的表现。