联邦学习Logit隐私风险量化与自适应防御研究

该论文首次从理论与实证角度指出，在基于Logit的联邦学习（FL）中，半诚实服务器可能通过训练过程中的历史Logit窃取客户端私有模型，即使公共数据与私有数据无关，这一内在隐私风险依然存在。作者提出了自适应模型窃取攻击（AdaMSA），并利用其验证了风险的可量化性，同时建立了该隐私风险的理论界限。 针对上述威胁，研究提出了一种简单有效的防御策略：对传输的Logit进行扰动，使其在最小化隐私风险的同时最大程度保留训练性能。论文进一步提供了FedLP方法的隐私与效用属性的理论分析，并通过实验结果验证了AdaMSA攻击的有效性以及所提防御策略的实际效果。文中强调，尽管Logit-based FL旨在促进模型异构性、降低通信开销并增强隐私，但忽略输出层面的泄露风险可能导致严重的模型窃取后果。 事实层面，本研究确认了Logit-based FL存在模型窃取漏洞，且该漏洞不依赖于公共数据与私有数据的关联性；推断层面，这意味着当前广泛采用的轻量级联邦方案若缺乏针对性防护，可能在分布式协作中暴露核心模型参数；猜测层面，未来联邦学习框架可能需要将Logit扰动机制作为标准组件纳入协议设计，以平衡效率与安全。