arXiv cs.CR· Yunjae Hwang, Byoungjin Seok·· 5 小时前AI 评分65
功能后门恢复的自适应查询复杂度受非目标标签关联模式影响
What Response Marginals Miss: Adaptive Query Complexity of Functional Backdoor Recovery
AI 摘要
该研究指出,在功能后门恢复任务中,仅凭攻击成功率和查询返回标签的分布无法确定最优自适应查询复杂度。作者构建了两个受害者模型族,它们对任意触发器的攻击成功率完全一致,且在均匀选择受害者时返回标签的分布也相同,但两者的最优查询复杂度分别为Θ(log H)和Θ(H),其中H为可能受害者数量。
这种差异源于相同的非目标标签关联了不同的受害者集合,导致连续查询消除可能受害者的速率不同。当反馈简化为仅报告是否返回目标标签的二元反馈时,这种分离消失。研究还验证了在CIFAR-10 ResNet-18分类器上的训练结果,确认了预测的最优查询预算,且该结论在低于1的固定失败概率下依然成立。
事实层面,论文证明了统计特征不足以决定查询复杂度;推断层面,这意味着现有的基于统计相似性的后门检测或防御评估可能存在盲区,需考虑更细粒度的标签关联结构;猜测层面,实际部署中若未监控非目标标签的分布细节,可能低估特定场景下的攻击成本。
来源:arXiv cs.CR · arxiv.org