DiagSafe 提出基于提示词量表的 LLM 安全诊断评估框架

该研究提出 DiagSafe 框架，旨在解决当前大语言模型安全基准过度依赖二元安全/不安全标签、缺乏解释性且自动评审一致性低的问题。DiagSafe 采用提示词级量表（prompt-level rubrics），依据全球适用的 AI 安全政策构建，从安全性（针对具体危害并设定豁免以抑制误报）和有用性（独立评估指令执行）两个维度提供明确标准。研究构建了包含 84 个标签分类的双语（英中）基准数据集，分为覆盖单轮/多轮直接有害查询及模板越狱的 DiagBase 子集，以及将有害意图嵌入复杂指令任务的 DiagAttack 子集。

实验数据显示，DiagSafe 显著提升了 LLM-as-a-judge 评估的可靠性，其标注与人工标注的一致性达到 95.34%，远高于基线方法的 69% 至 87%，且评审间一致性（Cohen's κ）为 0.864。应用该框架发现，主流模型在不安全率上存在显著差异，且各模型在不同维度表现出独特的脆弱性；同时观察到模型在中文语境和多轮对话场景下尤为 susceptible（易受攻击）。

事实层面，DiagSafe 通过引入多维度量表和双语基准，实现了比传统方法更高的一致性和可解释性。推断层面，该工具可作为审计和优化模型对齐的可靠手段，帮助识别特定模型在特定语言或交互模式下的具体风险点。猜测层面，随着此类细粒度评估成为行业标配，未来模型训练可能更倾向于针对特定安全维度的豁免条款进行微调，而非笼统地追求“安全”标签。