RedDarwin:基于可执行技能进化的越狱框架
先了解这件事
2026年10月19日,arXiv发布关于RedDarwin的研究。该框架将越狱单元从静态提示词转变为可执行攻击技能,包含47个基础技能,能根据模型反馈自主修订和组合。实验显示,RedDarwin生成了65个演化技能,其中44个优于原始攻击,在AdvBench基准上的平均攻击成功率(ASR)显著提升。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- arXiv cs.CR精选RedDarwin 框架通过演化可执行攻击技能在 GPT-5.6-Sol 等前沿模型上实现高成功率
RedDarwin 提出一种智能体框架,将越狱进化的基本单元从静态提示词或固定攻击流程转变为可执行的攻击技能,从而适应不断演进的模型防护机制。该框架包含 47 个可复用的基础技能,能根据目标模型的反馈自主修订、组合、执行并筛选这些技能,使成功的攻击发现成为后续进化的构建模块。实验显示,RedDarwin 生成了 65 个演化后的技能,其中 44 个优于原始基础攻击,在 AdvBench 基准上的平均攻击成功率(ASR)从 18.8% 提升至 47.3%。 在未见过的强对抗基准 StrongREJECT 及多个前沿大模型上,演化技能持续表现优于基线方法。仅使用 10 次目标模型查询,RedDarwin 即在 GPT-5.6-Sol 上达到 100% ASR,在 Claude-Sonnet-5 上达到 92%,在 Gemini-3.8-Flash 上达到 80%。轨迹分析表明,强力攻击往往源于可复用机制的新颖组合,而非单一主导机制的强化。这一发现挑战了传统红队测试依赖提示词优化的范式,强调技能级演化与组合创新的重要性。 事实层面,该研究基于 arXiv 2610.23726 论文,由 Zhouyuan Ma 等人于 2026 年 10 月提交,涉及 GPT-5.6-Sol、Claude-Sonnet-5 和 Gemini-3.8-Flash 等具体模型名称及性能数据。推断层面,这种技能化红队方法可能加速自适应安全评估,推动防御机制从对抗提示词转向对抗技能组合。猜测层面,若该框架被广泛采用,可能迫使模型厂商重新设计其对齐策略,但具体实施效果仍取决于实际部署中的反馈闭环效率与资源成本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。