跳到正文
原文
arXiv cs.CR· Zhouyuan Ma, Yutao Wu, Hanxun Huang, Xiang Zheng, Yi Liu, Xingjun Ma·· 4 小时前精选AI 评分82

RedDarwin 框架通过演化可执行攻击技能在 GPT-5.6-Sol 等前沿模型上实现高成功率

RedDarwin: Evolving Jailbreak Skills against Frontier LLMs

AI 导读

RedDarwin 提出一种智能体框架,将越狱进化的基本单元从静态提示词或固定攻击流程转变为可执行的攻击技能,从而适应不断演进的模型防护机制。该框架包含 47 个可复用的基础技能,能根据目标模型的反馈自主修订、组合、执行并筛选这些技能,使成功的攻击发现成为后续进化的构建模块。实验显示,RedDarwin 生成了 65 个演化后的技能,其中 44 个优于原始基础攻击,在 AdvBench 基准上的平均攻击成功率(ASR)从 18.8% 提升至 47.3%。

在未见过的强对抗基准 StrongREJECT 及多个前沿大模型上,演化技能持续表现优于基线方法。仅使用 10 次目标模型查询,RedDarwin 即在 GPT-5.6-Sol 上达到 100% ASR,在 Claude-Sonnet-5 上达到 92%,在 Gemini-3.8-Flash 上达到 80%。轨迹分析表明,强力攻击往往源于可复用机制的新颖组合,而非单一主导机制的强化。这一发现挑战了传统红队测试依赖提示词优化的范式,强调技能级演化与组合创新的重要性。

事实层面,该研究基于 arXiv 2610.23726 论文,由 Zhouyuan Ma 等人于 2026 年 10 月提交,涉及 GPT-5.6-Sol、Claude-Sonnet-5 和 Gemini-3.8-Flash 等具体模型名称及性能数据。推断层面,这种技能化红队方法可能加速自适应安全评估,推动防御机制从对抗提示词转向对抗技能组合。猜测层面,若该框架被广泛采用,可能迫使模型厂商重新设计其对齐策略,但具体实施效果仍取决于实际部署中的反馈闭环效率与资源成本。

推荐理由

将红队测试单元从提示词升级为可执行技能,揭示组合机制是突破前沿模型防御的关键路径。

来源:arXiv cs.CR · arxiv.org