CWE-bench v2 发布:DeepSeek V4.1 Flash 在 AI 安全测试中展现极高性价比
CWE-bench v2: More coverage, quality, and transparency
Collinear AI 联合 Hugging Face 发布 CWE-bench v2,这是一个包含 100 个任务的开源基准,旨在评估 AI Agent 在真实开源仓库环境中发现并修复安全弱点的能力。该基准覆盖 91 种不同的 CWE(通用弱点枚举)类别,采用全程序化评分机制以确保结果可复现且无额外成本。
在已评估的 11 个模型中,Gemini 4 Argon 以 67.8% 的 pass@1 准确率领跑,紧随其后的是 Claude Opus 5.5(67.3%)。尽管前 95 个任务均被至少一个模型解决,但即便是领先模型在每次尝试中仍有 19% 的任务失败率,表明长尾问题的解决远未完成。更关键的发现在于单位经济效率:DeepSeek V4.1 Flash 在 $0.04 的单次运行成本下达到了 57.0% 的准确率,构成了帕累托前沿的最优解;相比之下,Claude Opus 5.5 需支付 $1.83 才能提升约 10 个百分点的准确率,而 Gemini 4 Argon 则需 $3.92。
这一数据揭示了当前 AI 安全领域的商业现实:追求极致准确率并非唯一路径,对于防御性 Agent 的训练与部署,高性价比的模型往往更具实用价值。材料明确区分了事实(如各模型的 pass@1 数值和具体成本)、推断(如长尾问题未解决)与猜测(如未来模型性能走向),为开发者选择安全评估工具提供了基于数据的决策依据。
Pareto 曲线揭示 DeepSeek V4.1 Flash 以极低边际成本逼近头部模型,修正对推理型模型单位经济的认知。
来源:Hugging Face Blog · huggingface.co