AdvGuard框架提出以检测系统提示泄露攻击
先了解这件事
2026年10月28日，arXiv cs.CR发布论文提出AdvGuard框架。该模型无关的框架旨在检测和缓解针对大型语言模型的基于查询的系统提示词泄露攻击。现有防御措施通常独立评估查询，忽略了多轮交互中的恶意行为。AdvGuard利用有界语义交互图对跨查询关系进行建模，捕捉区分协同提取与良性工作流的多跳模式。在混合查询评估中，AdvGuard相比最强基线将召回率提高了高达36%，同时保持不超过3.4%的误报率（原文截断）。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- arXiv cs.CRAdvGuard 框架通过跨查询图分析检测并缓解基于查询的系统提示词泄露攻击
这篇来自 arXiv cs.CR 的论文提出了 AdvGuard，一个模型无关的框架，用于检测和缓解针对大型语言模型（LLM）专有系统提示词的基于查询的泄露攻击。现有防御措施通常独立评估查询，忽略了在多轮交互中出现的恶意行为，而 AdvGuard 利用有界语义交互图对跨查询关系进行建模，从而捕捉区分协同提取与良性工作流的多跳模式。 在混合查询评估中，AdvGuard 相比最强基线将召回率提高了高达 36%，同时保持不超过 3.4% 的误报率；在多轮工作负载下，其 F1 分数达到 97.23%-99.1%，召回率为 100%。在排除特定攻击家族的测试中，平均召回率达到 99.98%，平均 F1 分数为 99.99%，且未观察到误报。当集成到自适应 PLeak 和 LeakAgent 攻击循环中时，该框架将精确匹配泄露限制在 0.00-0.01，子串匹配泄露限制在 0.01-0.09。 事实层面，该研究展示了在未见过的攻击家族中具有鲁棒的检测能力，并显著减少了提示词重建的可能性。推断层面，这种基于图卷积网络（GCN）的分类方法表明，仅靠单点防御已不足以应对复杂的对抗性交互，未来的安全架构必须纳入时序和上下文关联分析。猜测层面，虽然结果令人鼓舞，但实际部署效果可能受限于计算开销和特定场景下的攻击变种，需进一步观察其在大规模生产环境中的表现。
本事件热度走势
当前热度 4·可比范围峰值 9（10月28日 15:00）·近 24 小时可比范围变化 -50%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。