Cancerous Backdoor Attack 利用不可见令牌和阶段控制器实现渐进式推理破坏

Cancerous Backdoor Attack 提出一种新型大语言模型后门攻击，通过不可见令牌（invisible tokens）和阶段控制器（stage controller）在多次交互中逐步腐蚀模型的推理能力，而非传统单次触发即激活终端行为。该攻击在多个推理数据集上验证，表现出跨模型和任务的渐进式推理破坏一致性。

核心机制在于不可见令牌为模型提供用户不可见的隐藏阶段，而阶段控制器在推理过程中追踪攻击进度以实现渐进激活。实验对比显示，该攻击优于现有后门攻击基线，且证明推理破坏可在变得可见之前逐步发展，导致单纯依赖答案准确率无法有效检测此类攻击。

事实层面，该论文发表于 arXiv cs.CR，提交于 2026 年 10 月 8 日，包含 31 页正文、13 张表格和 5 张图。推断层面，这种渐进式攻击可能使现有基于静态输出检测的安全方案失效，需引入对推理过程动态监控的防御机制。猜测层面，若攻击者能控制训练数据中的不可见令牌分布，可能在大规模部署前长期潜伏而不被察觉，但具体实施难度和成本原文未披露。