跳到正文
原文
arXiv cs.CR· Yulong Tian, Lei Wang, Jincan Yang, Hao Wu, Hao Han, Fengyuan Xu, Sheng Zhong·· 5 小时前精选AI 评分78

论文揭示云服务商可通过操控多出口网络路由利用延迟泄露用户输入隐私

Weaponizing the Exit: Input Privacy Leakage via Exit Routing Manipulation in Multi-Exit Networks

AI 导读

该论文指出多出口网络(Multi-exit networks)在云部署中存在隐私漏洞,恶意云服务提供商(CSP)无需访问输入数据、中间状态或模型输出,仅通过推理延迟即可推断用户输入的敏感属性。攻击者通过在部署前提供特制的多出口网络,使携带目标属性的输入以高概率路由至指定出口,其他输入则路由至其他位置,从而在服务端根据查询延迟反推退出索引并确定属性。

实验在四个数据集和十个目标属性上进行,攻击平均F1分数达到0.73,而最强基线仅为0.25。尽管攻击有效且隐蔽,但主要任务准确率下降不足1.3%,推理加速退化在大多数设置下低于0.1。作者提出了结合选择性标签平滑和熵协方差优化的训练框架,旨在控制各出口的置信度分布并减少过早终止。

事实层面,该研究证实了基于延迟的侧信道攻击在多出口架构中的可行性;推断层面,这意味着依赖多出口网络提升效率的云原生应用面临新的供应链信任风险,CSP可能成为隐私泄露的源头;猜测层面,若此类攻击被广泛认知,行业可能需要引入更严格的端到端加密或第三方审计机制来验证模型供应链,但这会增加工程复杂度与成本。

推荐理由

揭示云服务商可仅凭延迟推断用户隐私属性,迫使架构师重新评估多出口网络的部署信任边界。

来源:arXiv cs.CR · arxiv.org