arXiv cs.CR· William Cheng, Dongjun Kim, Mijung Park·· 1 天前AI 评分68
论文量化扩散模型采样过程隐私损失并建议混合去噪方案
Privacy Accounting for Empirical Denoisers
AI 摘要
该研究指出扩散模型的隐私风险不仅源于训练过程,更显著存在于采样阶段,特别是语义内容形成的关键窗口期隐私损失会急剧增长。作者构建了一种无需训练的截断隐私可计算经验去噪器,作为贝叶斯最优去噪器的估计量,使得每一步的去噪敏感度均可显式计算,从而在高斯差分隐私和f-DP框架下实现了精确的隐私会计。
实证分析显示,隐私损失随去噪轨迹演变,在临界窗口附近呈现陡峭上升趋势。基于此发现,论文提出一种混合采样器设计:在生成初期使用经过隐私验证的经验去噪器,待语义结构稳定后切换至公开的神经去噪器进行细节 refinement。这种策略在CIFAR-10和CelebA-64数据集上验证了通过调整子采样、停止时间和去噪组合方式,可以在不牺牲样本质量的前提下优化隐私预算。
事实层面确认了采样设计对隐私的影响;推断表明现有仅关注训练端差分隐私的合规方案可能低估实际风险;猜测在于混合架构能否在大规模商业部署中维持理论上的隐私边界而不引入新的攻击面。
来源:arXiv cs.CR · arxiv.org