跳到正文
原文
arXiv cs.CR· Yixin Tan, Chia-Yi Hsu, Jiayang Liu, Chia-Mu Yu, Rui Wen·· 5 小时前AI 评分70

Jev-Guided Strategy Bandit 在仅10次查询下实现89.8%的越狱成功率

Diagnose Before You Refine: Multi-Dimensional Judge Feedback for Query-Efficient Jailbreak Attacks

AI 摘要

该论文提出一种名为 Jev-Guided Strategy Bandit (JSB) 的基于查询的越狱框架,利用多维概率反馈指导对抗提示词的优化,旨在解决现有自动化方法缺乏细粒度诊断信息的问题。在仅使用10次目标模型查询的预算限制下,JSB 在十个开源设置中实现了 HarmBench 数据集平均89.8%的攻击成功率,显著优于现有的自动化越狱攻击方法。

实验评估覆盖了两个有害请求数据集和八种大语言模型(包括五个开源和三个闭源模型)。JSB 通过结合连续越狱评分、针对性优化、策略切换和最佳状态重 seeding 来平衡探索与精炼过程。进一步分析表明该方法在不同查询预算和攻击者模型下均保持有效性,同时防御实验揭示了现有过滤机制的局限性,并突出了基于 Jev 的输出过滤潜力。

事实层面确认了 JSB 在低资源约束下的攻击效能及现有防御的不足;推断层面认为这种高效的自动化攻击可能迫使行业重新评估当前基于简单过滤的安全对齐方案;猜测层面关于 Jev-based 输出过滤的具体实现细节及其在实际部署中的可行性仍需后续研究验证。

来源:arXiv cs.CR · arxiv.org