FoodGuardBench发布揭示LLM食品安全风险被低估
先了解这件事
2026年10月15日，研究团队发布FoodGuardBench基准，针对12个大语言模型进行食品安全评分测试。结果显示整体平均攻击成功率（ASR）为25.51%，单模型在八种攻击策略下的最大ASR高达60.59%。数据表明仅依赖单一攻击测试会大幅低估模型在食品相关恶意请求下的真实风险敞口。研究发现现有通用护栏虽对良性查询保持96.25%的效用，但针对这八种越狱攻击的检测准确率仅为55.80%。基于该基准微调的食品安全防护方案正在开发中。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- arXiv cs.CRFoodGuardBench 揭示大模型在食品安全评分中单一攻击测试严重低估风险
该研究发布 FoodGuardBench 基准，针对 12 个大语言模型进行食品安全评分测试，发现整体平均攻击成功率（ASR）为 25.51%，而单模型在八种攻击策略下的最大 ASR 高达 60.59%。这一数据表明仅依赖单一攻击测试会大幅低估模型在食品相关恶意请求下的真实风险敞口。 研究发现现有通用护栏虽然对良性查询保持 96.25% 的效用，但针对这八种越狱攻击的检测准确率仅为 55.80%。作为对比，团队基于该基准微调的食品安全专用护栏 FoodGuard-4B 实现了 97.64% 的分布外（OOD）准确率，同时维持了高良性效用。测试包含 2,124 个种子恶意问题、16,992 个变体及 1,000 个良性问题，覆盖五个食品安全风险类别。 事实层面确认了多模态攻击策略下通用防护机制的失效概率；推断显示垂直领域的专用对齐方案比通用护栏更能有效应对特定场景的安全挑战；猜测部分涉及未来监管是否会将此类细分领域的基准纳入合规要求，目前尚无原文证据支持。
本事件热度走势
当前热度 9·可比范围峰值 9（10月15日 14:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。