TNCS方法实现代码模型高效后门攻击

该研究针对预训练代码模型的后门投毒问题，提出了一种名为触发器中和反事实评分（TNCS）的新方法。该方法通过比较模型在触发输入与触发器中和的反事实样本上的输出差异，量化触发器对目标行为的贡献，从而在极低的投毒样本比例下实现高效的攻击选择。实验显示，TNCS在三个CodeXGLUE任务和五种触发器家族上均取得了比基线更高的攻击成功率，且随着投毒比例降低，其优势边际反而扩大。 关键证据在于TNCS是文中唯一在所有测试的触发器家族上都有效的方法，且其选定的投毒集能够迁移到不匹配的受害者模型上。这一发现挑战了现有数据高效选择方法主要针对图像分类、缺乏自回归生成评分机制的现状。研究特别指出，该方法在提升攻击效率的同时，并未降低模型在干净任务上的性能表现，使得检测更加困难。 事实层面，TNCS确实在低投毒率下实现了跨触发器家族的通用性和迁移性；推断层面，这意味着当前基于图像或简单分类逻辑构建的代码模型防御体系存在严重漏洞，可能低估了生成式代码模型的被攻击风险；猜测层面，由于攻击成本随样本减少而降低，未来针对代码库的定向投毒攻击可能会变得更加隐蔽和频繁，但具体攻击频率需依赖后续行业监测数据验证。