轻量工具筛查医疗AI成员推断隐私风险

该研究挑战了仅通过不公开训练数据即可保护患者隐私的假设，指出模型仍可能泄露特定患者的记录存在信息，即成员推断攻击风险。通过对7,789个模型在六个临床数据集上的测试发现，虽然不同训练选择会改变高风险患者的总体数量，但那些处于最高风险排名的具体患者记录在多种配置、架构和初始化条件下保持高度一致。这意味着传统的基于队列平均值的隐私风险评估可能掩盖了个体层面的严重暴露。 研究团队开发了一个轻量级筛查工具，利用四个小模型在正式训练生产模型前识别出高风险患者记录。实验显示，增强权重衰减（weight decay）可将受暴露影响的队列规模减少至原来的三分之一，但最易受攻击的患者群体并未发生根本性改变。此外，研究还评估了在不移除数据的前提下保护这些被标记患者的可行性，为数据准备阶段提供了新的操作路径。 事实层面，该论文证实了医学 AI 中个体隐私风险的稳定性和可预测性；推断层面，现有的隐私合规流程若仅依赖群体统计指标将不足以保障个体权益；猜测层面，未来临床 AI 的数据治理可能需要强制引入此类预训练筛查机制，但这取决于行业对个体隐私权重的重新定义及计算成本的接受度。