BenchDoor利用基准测试激励实施后门攻击

该研究提出 BenchDoor 系列数据投毒攻击，核心在于利用模型开发中追求基准分提升的激励，在保持良性性能的同时植入后门。攻击者通过操纵基准的训练或测试数据构建对抗性基准，或提供独立训练集，使模型在获得基准分数提升时同步激活后门。在 Qwen 和 Gemma 模型的多项选择题、文本分类及开放式问答任务中，30 种配置均实现基准增益，2% 至 10% 的投毒率下保留攻击成功率达 82.33% 至 100.00%。 即便经过合成数据生成和基于相似度的去污染处理，攻击成功率仍维持在 90.33% 以上。这一结果证明现有去污染策略无法完全防御此类利用基准设计逻辑的攻击。攻击场景涵盖重写测试样本进行训练等五种形式，显示基准测试不仅是评估工具，更可能成为攻击向量。 事实层面，BenchDoor 在多种模型和任务上成功实现基准增益与后门激活并存；推断层面，当前主流的数据清洗流程存在系统性盲区，未能识别基于基准优化的投毒模式；猜测层面，若行业继续依赖单一基准作为主要优化目标，类似攻击可能被大规模复制用于特定模型的定向破坏。