针对Private Evolution投票机制的首个白盒成员推断攻击证实隐私泄露

该论文首次提出针对Private Evolution（PE）框架投票算法的白盒成员推断攻击（MIA），实证证明即使应用了差分隐私（DP），生成的合成数据仍存在隐私泄露风险。研究团队通过利用迭代过滤过程对候选样本生存率和接近度的偏差，成功在图像、文本和表格三种模态上实现了攻击，表明PE在实际应用中未能完全保护私有数据。

核心证据在于攻击利用了PE框架中投票算法的内在机制：迭代过滤过程会系统性地将合成候选样本向私有实例偏置，这种偏差使得攻击者能够区分训练数据中的成员与非成员。尽管PE设计初衷是在差分隐私约束下生成高质量合成数据且无需微调模型，但形式化的DP保证并未消除对抗性攻击的实际 susceptibility。实验结果跨越多模态，显示该漏洞具有普遍性而非特定场景下的偶然现象。

事实层面，该研究确认了PE框架在特定攻击下的失效；推断层面，这意味着依赖PE进行数据共享的组织可能面临比预期更高的隐私风险，需重新评估其合规策略；猜测层面，其他基于黑盒模型访问的合成数据生成方法若采用类似投票或过滤机制，也可能存在未被发现的攻击面。建议从业者在进行隐私审计时，不能仅依赖理论上的DP参数，必须结合实证攻击测试来验证实际安全性。