论文提出无需修改权重即可在黑盒模式下激活模型后门的新型攻击方法

该研究提出一种名为Backdoor-as-a-Service的模型无关黑盒攻击技术，其核心在于不通过训练时投毒或直接修改模型权重来植入后门，而是利用遗传搜索发现特定的输入变换，激活模型中已存在的潜在行为以执行攻击者定义的次级任务。这种方法在MNIST数字分类器和生产级NSFW分类器上均成功验证，前者被诱导执行二进制字母识别任务，后者则利用面部特定扰动将其转化为人口统计群体分类的代理工具。

与传统假设系统未受实际风险威胁的观点不同，该工作证明即使在不接触训练数据和架构的情况下，攻击者也能通过输入侧的微小调整系统性改变输出结果。实验细节显示，攻击过程完全基于黑盒模式，仅依赖输入输出交互，无需访问内部参数或梯度信息。针对NSFW分类器的攻击特别展示了如何利用现有特征提取能力进行语义偏移，将内容安全检测转化为歧视性分类工具。

事实层面确认了该攻击在两个目标上的有效性；推断表明现有基于权重监控和训练数据清洗的防御措施可能无法应对此类非侵入式激活；猜测部分涉及该技术在大规模部署模型中的潜在滥用规模，但原文未提供具体商业案例或广泛传播证据。产业链影响在于迫使安全团队重新评估黑盒API服务的风险模型，特别是那些依赖预训练通用能力的场景。