arXiv cs.CR· Fei Wang, Zebai Tian·· 5 小时前AI 评分63
论文提出证据绑定网关路径溯源协议以验证第三方LLM推理决策
Evidence-Bound Gateway-Path Provenance for Third-Party LLM Inference
AI 摘要
该论文针对第三方LLM网关在路由选择、模型调用及账单记录中的不可信问题,提出了“证据绑定网关路径溯源”(Evidence-Bound Gateway-Path Provenance)机制,使网关决策受客户端可验证的请求合同约束。系统通过经认证的中介运行时(attested mediation runtime),将签署的服务策略与客户端授权进行交叉验证,构建面向提供商的调用请求并保护流式响应,同时区分初始路由与故障转移目的地,仅在授权失败后才允许转换。
实验数据显示,该协议在并发数为1时带来0.442毫秒的p95延迟开销,峰值吞吐量达每秒10,650次请求,流式关闭时间p95低于0.4毫秒。基于AWS Nitro Enclaves的原型机完成了30个单一路由的实时流式请求测试,实现了带证明的会话和签名密钥绑定。设计将网关管理与载荷处理分离,确保每个确认的执行都有可验证的记录。
事实层面,该研究形式化了协议状态机,证明了授权保持、执行与流绑定、计费完整性及通道机密性;推断层面,该机制可能改变企业对第三方API调用的信任边界,从依赖供应商报告转向依赖密码学证明;猜测层面,其实际落地需解决大规模并发下的密钥管理成本与现有云厂商基础设施的适配问题,目前仅停留在原型验证阶段。
来源:arXiv cs.CR · arxiv.org