RPP 框架在数据集不平衡下提供可认证的后门样本检测与误报上界保证

该论文首次深入调查了数据集类别不平衡如何放大深度神经网络的后门攻击脆弱性，指出不平衡会导致多数类偏差从而增加易感性，并使传统防御方法随不平衡程度加剧而显著退化。针对这一现实问题，作者提出了随机概率扰动（RPP）框架，这是一种仅依赖模型输出概率的黑盒 poisoned-sample 检测方案，能够在域内提供可证明的检测保证，并给出误报率的概率上界。

实验部分在 MNIST、SVHN、CIFAR-10、TinyImageNet 和 ImageNet10 五个基准上覆盖了 10 种后门攻击和 12 种基线防御，结果显示 RPP 在不平衡数据下的检测精度显著优于现有最先进方法。文中明确区分了事实与机制：不平衡导致多数类偏差是观察到的现象，RPP 利用概率扰动进行黑盒检测是提出的方法，而“显著提升”是基于五组基准测试数据的实证结果。

推断表明，在医疗影像或工业质检等天然存在长尾分布的真实场景中，依赖平衡假设的传统防御可能失效，RPP 提供的误报上界对部署决策具有实际参考价值。猜测成分在于该框架是否会被集成到主流推理引擎中作为标准模块，目前材料仅展示了独立算法层面的有效性，未涉及工程化集成的具体路径或性能开销细节。