arXiv cs.CR· Behrad Tajalli, Henk Berendsen, Xiaoyun Xu, Stjepan Picek·· 5 小时前AI 评分65
论文提出三空间测量框架揭示后门攻击在输入、特征与参数空间的隐蔽性割裂
Quiet Triggers, Loud Footprints: A Tri-Space Measurement Study of Backdoor Stealthiness
AI 摘要
该论文指出当前深度神经网络后门攻击的隐蔽性评估存在碎片化问题,现有工作往往仅关注触发器不可感知性、特征空间可分性或参数空间集中度等单一维度,导致攻击可能在某一方面看似隐蔽而在其他方面留下明显痕迹。作者构建了包含输入空间、特征空间和参数空间的三空间测量框架,区分了理想但不可观测的潜在隐蔽性与可测量的足迹,并在四个数据集和三种模型架构上对代表性后门攻击进行了广泛评估。
研究发现隐蔽性并非单一整体:在一个空间中安静的攻击往往在另一个空间中显得喧闹,现有攻击很少能在所有三个空间中同时保持极小的足迹。基于此,作者提出了两个诊断指标:Class-Specific Davies--Bouldin Index (CDBI) 用于捕捉类条件特征重叠情况,TAC--UCLC Product (TUP) 用于识别既对触发器响应又对下游有影响力的通道。这些指标旨在补充而非替代现有的测量套件,帮助识别现有评估中的盲区。
事实层面,该研究通过多空间度量揭示了后门攻击隐蔽性的非单调特性;推断层面,这意味着依赖单一维度的防御或评估标准可能失效,需建立多维协同检测机制;猜测层面,未来针对后门攻击的基准测试可能需要强制要求报告三空间足迹数据以全面反映攻击风险。
来源:arXiv cs.CR · arxiv.org