跳到正文
原文
Google Research·· 3 小时前精选AI 评分70

Google 发布基于可信执行环境的下一代联邦学习系统以提供可验证的隐私保证

Toward provably private learning from federated data

AI 导读

Google Research 宣布推出新一代联邦学习系统,利用可信执行环境(TEEs)实现端到端的数据匿名化可验证性与可审计性,Gboard 已率先采用该系统并实现了更快的计算速度和更强的隐私保障。该系统不再依赖对服务器运营者的信任,而是通过远程证明、机密性和完整性机制,确保只有符合访问策略的计算才能在 TEE 内解密和处理加密的训练数据。

核心机制包括:客户端预先授权访问策略并发布至 Rekor 公共透明日志;密钥管理系统(KMS)由实施 RAFT 共识协议的 TEE 集群组成,仅向匹配策略的服务器工作负载分发解密密钥;训练逻辑使用开源框架无关的编排语言 Federated Language 表达,支持动态旁加载以保护专有逻辑的同时保留外部可验证性;故障恢复状态通过 KMS 加密保存,防止隐私泄露。相比旧系统,新架构将梯度计算移至服务器端,消除了设备可用性波动和端侧算力限制,使原本需 1-2 个月的训练周期大幅缩短。

这一进展标志着联邦学习从“统计差分隐私”向“代码级可验证隐私”的范式迁移,事实层面已实现 Gboard 模型的快速迭代与精度提升;推断层面表明未来大模型训练可能更多依赖此类可审计基础设施;猜测层面则涉及未来硬件演进与侧信道缓解技术能否支撑完全正确的 DP 算法形式化证明。

推荐理由

通过TEE实现代码级可验证隐私,将联邦学习从信任假设转向可审计事实,直接改变对大规模模型训练数据合规边界的判断。

来源:Google Research · research.google