Addition by Subtraction 论文提出通过移除关键神经元增强大语言模型的安全对齐鲁棒性

这篇 arXiv 论文提出名为 Addition by Subtraction 的方法，旨在解决大语言模型安全对齐过于依赖稀疏组件的问题。该方法在微调过程中逐步移除已识别的安全关键神经元，并利用偏好优化让模型其他部分重新建立安全对齐行为。实验显示，经过此处理的模型对基于剪枝的攻击具有显著更强的鲁棒性，攻击成功率最高降低了 90%。

研究团队在来自三家厂商的四个模型上进行了全面测试，不仅验证了对白盒剪枝攻击的防御能力，还发现该方法能泛化到其他稀疏干预手段（如拒绝方向消融）以及广泛的黑盒越狱攻击中。此外，微调后的模型在保持通用能力的同时，表现出更高的真实性。这一结果挑战了传统认为安全对齐必须保留所有特定神经元才能生效的观点，证明了模型具备通过重组内部表征来维持安全性的潜力。

事实层面，该研究证实了安全对齐存在稀疏性弱点，且通过主动移除关键组件并重构可以增强鲁棒性；推断层面，这暗示未来的模型训练可能需要引入类似的结构化正则化以对抗更复杂的对抗样本；猜测层面，这种方法是否会导致模型在极端长尾场景下出现新的失效模式，目前论文未给出长期追踪数据，需后续观察。