Surprise Masking 提出利用公开模型似然过滤隐私数据

该论文提出 Surprise Masking（SM），一种利用公开参考模型困惑度进行数据过滤的方法，旨在识别并抑制训练数据中的隐私或不想要内容，同时保留其余部分。在合成代码基准测试中，SM 在隐私与效用权衡上优于标准掩码方法和 PII 过滤。微调实验显示，SM 将从已揭示前缀中提取近似私有值的概率从 66.3% 降至 2.3%，并将风格化编码怪癖的复现率从 23.6% 降至 1.3%，且未损害评估代码任务的性能。 针对数据集清洗的直接移除场景，SM 在检测中毒死代码方面表现优于 DePA，但在更广泛的凭证和 PII 基准测试中，专用检测器表现更佳。研究在十一个设置中发现，SM 的下游成功可预测地取决于不想要内容与有用内容在分布上的分离程度，使其特别适用于代码数据。这是一种低成本、适应性强的方法，能在减少不想要信息学习的同时保留有价值示例。 事实层面，SM 通过公开模型似然实现过滤，在代码数据上实现了显著的隐私指标下降且保持任务性能。推断层面，该方法的有效性依赖于数据分布中目标内容的可分离性，暗示其在结构化或特定领域数据（如代码）中可能具有普适优势。猜测层面，虽然 SM 在代码场景表现优异，但其在非结构化自然语言数据上的表现仍需进一步验证，且其依赖的公开参考模型的选择可能对结果产生敏感性影响。