论文提出SAR指标量化模型池共享漏洞并发现蒸馏加剧系统性风险

该论文针对当前对抗鲁棒性评估仅关注单模型分数和攻击转移率的局限，提出了系统对抗鲁棒性（SAR）这一新度量标准，旨在回答“需要多少种攻击才能导致大规模灾难性破坏”这一核心问题。SAR通过衡量利用模型池所需的最小攻击多样性来量化共享漏洞，其数值越小代表存在脆弱性单一文化（vulnerability monoculture），数值越大则表明失败分散于不同模型之间。

实证测试显示，基于 DeepSeek-R1 和 Claude Opus 4.6 蒸馏得到的模型池，其估计的系统鲁棒性低于对应的父代模型池。这一结果揭示了前沿模型蒸馏技术可能带来系统性的安全风险代价，即共享的训练管道、蒸馏方法和数据使得原本多样的模型生态面临集中化的攻击风险。作者将 SAR 形式化为部分集合覆盖问题，并提供了可证明的近似保证，从而支持开发可扩展算法来实证测量模型群的系统对抗鲁棒性。

事实层面，该研究定义了 SAR 指标并验证了特定蒸馏模型的风险特征；推断层面，这表明行业过度依赖少数几个前沿模型进行蒸馏可能导致整个生态系统的防御盲区扩大；猜测层面，未来监管或安全评估可能需要从单点测试转向对模型池整体多样性的考量，但这尚需更多实证数据支持。