LLM 运行时监控证据路径断裂致安全失效研究

1. 12:00
   arXiv cs.CR

   LLM 运行时监控证据路径在框架边界更新中发生断裂导致安全失效

   该研究指出现代 LLM 应用依赖的运行时监控器存在接口可靠性问题：框架路径可能保持运行，但与安全策略相关的证据无法到达决策点，导致已识别的证据与执行动作脱节。作者通过“金丝雀合约”协议（canary contracts）在公共框架修复中验证了 18 起证据路径失效案例，涉及 11 个 LLM 或智能体安全项目组和四个实现生态系统。 这 18 起案例中，9 起属于既定边界修复，8 起为新表面政策覆盖缺口，1 起为仅边界证据案例；其中 14 起触及 E1 执行边界，包括 7 个原生动作结果、6 个配置执行边界和 1 个合成消费者后果，其余影响验证器、安全提示词或可观测性通道。这些失效被归类为载体、适配器、权限和表面家族，表明普通应用行为可能保持完整，而特定安全证据路径却未能抵达决策节点。 事实层面，研究记录了确切的修订、确定性结果、负对照及冻结的前瞻性审计文档以确认规则；推断层面，这意味着框架演进必须在模式架构、数据流、工具和适配器层面增加回归测试；猜测层面，若缺乏此类针对证据路径的专项测试，现有监控机制可能在框架更新后产生隐蔽的安全盲区。

当前热度 9·可比范围峰值 9（10月19日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。