SpecGuard：基于规范的多轮LLM越狱检测框架发布

1. 12:00
   arXiv cs.CR

   SpecGuard 通过形式化规范监控检测多轮大语言模型越狱攻击

   该论文提出 SpecGuard，一种无需训练、基于规范驱动的多轮大语言模型交互监控框架，旨在解决现有防护模型仅对单条消息进行分类而缺乏可执行安全语义的问题。SpecGuard 利用线性时序逻辑（Linear Temporal Logic）将自然语言观察映射为因果 scoped 事实，并将禁止的交互模式编译为符号有限自动机进行增量消费。 实验显示，在针对多轮安全的基准测试中，SpecGuard 的表现优于代表性开源防护模型，同时保持可控的误报率。其核心机制在于生成可重放的见证（witnesses），能够明确标识触发的规范、支撑事实及相关对话轮次，从而支持缓冲运行时检查和事后审计。这一方法不依赖被保护模型的参数或学习到的检测器权重。 事实层面，该框架实现了从启发式风险分类向形式化指定、可验证及可审计的安全监控路径的迁移。推断上，这种基于形式化方法的架构可能显著降低黑盒模型部署中的合规审计成本，但需警惕规范编写本身的复杂性带来的维护负担。猜测方面，若该框架能适配更广泛的动态场景，可能成为企业级 AI 安全治理的标准组件，但目前其泛化能力仍需更多实际部署数据验证。

当前热度 9·可比范围峰值 9（10月28日 15:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。