联邦学习抗量化梯度审计检测主动推理攻击新进展

该论文提出一种针对联邦学习系统中主动推理攻击的检测方法，通过服务器发送秘密挑战批次并收集客户端返回的梯度校验和与时间戳来识别异常行为。该方法利用量化指纹技术容忍跨平台的浮点数非确定性差异，在德州100数据集上实现了1.0的真阳性率和零误报率，且能稳定应对高达40%的恶意客户端比例。 实验显示，该机制对主动生成对抗网络判别器攻击者具有高度敏感性，仅需32毫秒的服务器计算时间和每响应4.35 kB的数据传输量。然而，对于纯被动攻击者，仅靠时间信号无法实现鲁棒检测；若攻击者在未受影响的模型副本上响应挑战但篡改了复制品，则完全规避审计。此外，该方案可与差分隐私配合使用，作者量化了其在保持精度方面的成本。 事实层面，该研究验证了校验和作为带内信号的有效性，前提是攻击者未将审计计算与攻击操作解耦。推断层面，这意味着在可信服务器的跨机构联邦学习场景中，轻量级主动审计可能比传统差分隐私更适合作为第一道防线。猜测层面，未来需进一步验证该方法在异构硬件环境下的泛化能力，以及是否会被更复杂的协同攻击策略绕过。