arXiv cs.CR· Junchi Liao·· 5 小时前AI 评分75
LLM 运行时监控证据路径在框架边界更新中发生断裂导致安全失效
Monitor-Validity Failures: LLM Safety Evidence Paths at Evolving Framework Boundaries
AI 摘要
该研究指出现代 LLM 应用依赖的运行时监控器存在接口可靠性问题:框架路径可能保持运行,但与安全策略相关的证据无法到达决策点,导致已识别的证据与执行动作脱节。作者通过“金丝雀合约”协议(canary contracts)在公共框架修复中验证了 18 起证据路径失效案例,涉及 11 个 LLM 或智能体安全项目组和四个实现生态系统。
这 18 起案例中,9 起属于既定边界修复,8 起为新表面政策覆盖缺口,1 起为仅边界证据案例;其中 14 起触及 E1 执行边界,包括 7 个原生动作结果、6 个配置执行边界和 1 个合成消费者后果,其余影响验证器、安全提示词或可观测性通道。这些失效被归类为载体、适配器、权限和表面家族,表明普通应用行为可能保持完整,而特定安全证据路径却未能抵达决策节点。
事实层面,研究记录了确切的修订、确定性结果、负对照及冻结的前瞻性审计文档以确认规则;推断层面,这意味着框架演进必须在模式架构、数据流、工具和适配器层面增加回归测试;猜测层面,若缺乏此类针对证据路径的专项测试,现有监控机制可能在框架更新后产生隐蔽的安全盲区。
来源:arXiv cs.CR · arxiv.org