跳到正文
原文
arXiv cs.CR· Nicholas D'Silva, Surya Nepal, Salil S. Kanhere·· 6 小时前AI 评分68

论文通过开源工具审计发现图差分隐私实现的实际隐私参数高于声称值

Practical Auditing of Differentially Private Graph Release Mechanisms: Methodology, Toolkit, and Case Study

AI 摘要

该研究针对图结构数据的差分隐私(DP)发布机制提出了一套实证审计方法论,并发布了配套的开源 Python 工具包。作者指出,现有的审计方法多基于表格数据和机器学习流水线,缺乏针对图结构的特定设计,因此识别出“金丝雀构建”和“见证统计量选择”两个关键问题。通过对已发布的 Node-DP 最先进图发布机制进行审计,研究在一系列合成与现实世界的金丝雀对中获得了认证的下界,这些下界均超过了声称的隐私参数 ε 值。

审计结果显示,所验证的实现存在违反声称保证的情况,且这种违规现象在输入域受到更严格限制(如要求非空图和连通图)时依然存在。此外,研究强调见证统计量的选择对是否检测到违规具有实质性影响,表明在审计 DP 图发布机制时,必须评估多样化的统计量组合,单一指标可能导致误判。

事实层面,该论文已在 arXiv 发布并获 AISC '27 接收,提供了可复现的工具和具体的反例证据。推断层面,这意味着当前部分图数据发布的隐私保护声明可能过于乐观,实际风险高于理论承诺。猜测层面,若行业广泛采用此类审计工具,可能会迫使相关机构重新校准其隐私预算参数或改进算法实现,但这取决于后续更多独立研究的验证与采纳情况。

来源:arXiv cs.CR · arxiv.org