跳到正文
原文
arXiv cs.CR· Suraj Ranganath, Atharv Ramesh·· 4 小时前精选AI 评分78

StealthRL 框架通过强化学习生成对抗性改写,使多类 AI 文本检测器在低误报率下检测率降至 0.024

StealthRL: Reinforcement Learning Paraphrase Attacks for Multi-Detector Evasion of AI-Text Detectors

AI 导读

该论文提出 StealthRL,一种基于强化学习的对抗性改写框架,旨在测试 AI 文本检测器在保持语义保真度下的鲁棒性。研究团队在 RoBERTa、Fast-DetectGPT、Binoculars 和 MAGE 等检测器集合上训练策略,结果显示攻击成功将平均 TPR@1%FPR(假阳性率为 1% 时的真正例率)降低至 0.024,同时保留了非平凡的语义重叠和可读性。这种攻击效果不仅针对训练目标,还能迁移到未参与训练的检测器家族,表明现有检测器存在广泛的鲁棒性缺陷而非单一模型过拟合。

核心证据在于攻击机制与评估结果:StealthRL 强制策略在对抗检测器的同时维持语义一致性,并在完整的过滤 MAGE 测试集上进行跨域评估。除了主指标外,作者还补充了检测分数分析、重复生成稳定性检查以及自动与人工质量评估。这些细节证实了攻击并非破坏文本结构,而是利用检测器对“意义保留的对抗性重写”的脆弱性。代码和训练好的模型权重已公开,允许复现和进一步验证。

事实层面,该研究证明了当前主流检测器在特定压力测试下表现极差;推断层面,这意味着依赖单一检测阈值或静态模型的部署方案可能在实际应用中失效;猜测层面,未来检测器可能需要引入动态对抗训练或更复杂的语义理解机制来应对此类自适应攻击。产业链影响在于,若此结论被广泛采纳,检测服务供应商需重新设计评估基准,从静态准确率转向动态对抗环境下的生存能力测试。

推荐理由

揭示自适应改写攻击使主流检测器在低误报率下失效,直接挑战当前部署策略的有效性。

来源:arXiv cs.CR · arxiv.org