arXiv cs.CR· Valentin Dorseuil (DI-ENS), Meenatchi Sundaram Muthu Selva Annamalai (UCL), Jamal Atif (CMAP), Olivier Capp\'e (DI-ENS), Nicolas Papernot (Inria)·· 5 小时前AI 评分60
论文指出差分隐私审计中的选择偏差会导致隐私泄露下界被高估且统计无效
Reliable Estimation of Differential Privacy under Selection Bias
AI 摘要
该论文发现现有差分隐私(DP)机制的统计隐私审计在运行成员推断攻击(MIAs)时普遍存在选择偏差,导致计算出的隐私泄露下界在统计上无效且被高估。尽管多数审计结果仍低于理论上限而未引起注意,但这种偏差可能引发对正确机制的虚假警报或错误评估保证的紧致度。
作者利用统计学工具提出修正方法,并重新分析了先前审计实现的结果。数据显示,在未进行统计修正的情况下,审计违反理论上限的频率比其声称的置信水平高出四倍;应用修正后,下界恢复统计有效性,违规率降至名义水平以内。这一发现直接挑战了当前广泛使用的隐私验证流程的可靠性基础。
事实层面,论文证明了偏差的存在及其量化影响;推断层面,这意味着行业依赖的审计标准若不加修正将产生系统性误报;猜测层面,未来监管或内部合规审查可能需要强制要求使用经统计修正的审计协议,否则无法作为有效的合规证据。
来源:arXiv cs.CR · arxiv.org