FoodGuardBench 揭示大模型在食品安全评分中单一攻击测试严重低估风险

该研究发布 FoodGuardBench 基准，针对 12 个大语言模型进行食品安全评分测试，发现整体平均攻击成功率（ASR）为 25.51%，而单模型在八种攻击策略下的最大 ASR 高达 60.59%。这一数据表明仅依赖单一攻击测试会大幅低估模型在食品相关恶意请求下的真实风险敞口。

研究发现现有通用护栏虽然对良性查询保持 96.25% 的效用，但针对这八种越狱攻击的检测准确率仅为 55.80%。作为对比，团队基于该基准微调的食品安全专用护栏 FoodGuard-4B 实现了 97.64% 的分布外（OOD）准确率，同时维持了高良性效用。测试包含 2,124 个种子恶意问题、16,992 个变体及 1,000 个良性问题，覆盖五个食品安全风险类别。

事实层面确认了多模态攻击策略下通用防护机制的失效概率；推断显示垂直领域的专用对齐方案比通用护栏更能有效应对特定场景的安全挑战；猜测部分涉及未来监管是否会将此类细分领域的基准纳入合规要求，目前尚无原文证据支持。