arXiv cs.CR· Lior Ziv, Mahmood Sharif·· 7 小时前AI 评分75
少步文本生成图像模型存在速度与安全的内在冲突且概念擦除更难
Haste Makes Waste? Towards Safe Few-Step Text-to-Image Models
AI 摘要
这篇arXiv论文指出少步蒸馏文本生成图像模型在提升生成速度的同时,其不安全内容的生成率反而高于教师模型,且减少推理步骤会持续推高不安全生成比例。作者发现加速过程使得不安全概念更难被擦除,现有的概念擦除方法在少步模型上的效果显著弱于在教师模型上的表现。研究提出DICE(Distillation-Integrated Concept Erasure)方法,这是一种专为少步模型设计的后蒸馏擦除技术,通过使潜在构建和生成保留损失与产生模型的蒸馏方法保持一致,从而保持擦除对少步模型的忠实度。在FLUX Schnell模型上的评估显示,DICE将不安全生成率降至0.046,而此前测试的擦除方法至少为0.161,同时基本保留了良性生成的质量。
机制诊断部分揭示了擦除失效的原因:少步模型生成过程的脆弱性以及通常将生成指导蒸馏到这些模型中的方式,阻碍了既定概念擦除方法的运作。这种架构特性导致基于教师模型优化的擦除策略无法有效迁移到少步模型上。论文接受于IEEE S&P 2027,属于计算机视觉与密码学安全交叉领域。
事实层面确认了少步模型存在更高的不安全生成风险且现有工具失效;推断表明当前行业追求极速生成的趋势可能掩盖了安全隐患,需要重新评估蒸馏模型的安全基线;猜测在于DICE方法能否成为行业标准或仅适用于特定蒸馏流程,这取决于后续开源实现与社区验证。
来源:arXiv cs.CR · arxiv.org