跳到正文
原文
arXiv cs.CR· Miaobo Hu, Shuhao Hu, Xiaobo Guo, Xin Wang, Bokun Wang, Daren Zha, Jun Xiao·· 5 小时前AI 评分67

CascadeLedger 提出针对大模型级联系统的反事实执行审计框架以验证信息与资源完整性

CascadeLedger: Counterfactual Auditing of Information and Resource Integrity in LLM Cascades

AI 摘要

CascadeLedger 是一个面向预算限制的大语言模型级联系统的反事实执行审计框架,其核心目标是验证路由决策是否仅使用了合法可观测信息,并绑定服务与缓存身份以确保资源投影的准确性。该协议通过强制“先调用后读取”语义、冻结事件追踪以及引入聚合等价追踪有效性概念,解决了传统单轨迹不变量无法覆盖隐藏读取和路由偏差的问题。

论文提出了两个关键技术机制:反事实前缀非干扰(CPNI)用于耦合可见前缀与策略随机性,定位最早违反规则的前缀及最小隐藏见证;投影保持对抗变异(PPAM)则搜索在常规检查器中看似有效但实际无效的轨迹。在冻结缓存、独立生成和服务评估的实验中,双层审计报告实现了0.0000的误报率,检测到99.83%的序列化故障和99.82%的未记录隐藏读取故障,并在确定性重计算后修正了34.03%的错误质量-资源结论。

该研究将审计能力从单一轨迹扩展至反事实空间,为 Agent 编排和级联推理提供了可验证的安全基线。事实层面确认了其在特定实验设置下的高检出率和零误报;推断层面表明此类框架可能成为未来复杂多模型协作系统的标准合规组件;猜测层面在于其在线记录器与离线审计的开销平衡在实际生产环境中的表现仍需进一步验证。

来源:arXiv cs.CR · arxiv.org