新框架揭示微调防御被高估，攻击成功率升至96%

1. 12:00
   arXiv cs.CR

   利用微调中间检查点审计提示词注入防御，暴露主流评估方法的高估风险

   该论文指出当前大语言模型在用户产品中部署时，基于微调的提示词注入防御缺乏形式化保证，且常被实证评估中的低攻击成功率误导，使开发者和用户产生虚假安全感。作者提出一种无需发明新型SOTA攻击即可进行压力测试的审计框架，核心洞察是利用微调过程本身产生的中间检查点作为优化攻击的跳板。 通过实例化GCG和BEAST等优化攻击，该框架将针对最先进防御的攻击成功率从接近零提升至高达96%。这一结果证明，现有评估实践严重高估了模型的鲁棒性，而利用微调过程中对攻击者不可见的中间状态，能够发现真实存在的漏洞，这些漏洞在现实场景中可被具备能力的对手利用。 事实层面，论文展示了特定攻击方法在特定防御上的成功率数据变化；推断层面，这意味着仅依赖当前可用的最强攻击进行评估是不够的，必须引入更激进的内部审计机制；猜测层面，若行业不改变发布前的审计流程，未来更强大的攻击可能绕过现有防御造成实际损害。

当前热度 9·可比范围峰值 9（10月12日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。