Hugging Face发布FairStress公平性评估基准

AllenAI 发布 FairStress 基准测试，旨在超越传统的最终决策结果，深入评估大语言模型在涉及人口统计特征的决策中是否存在隐性的不对称偏见。该基准测试通过引入对抗性前缀（adversarial prefixes），发现模型在面对支持少数族裔候选人的说服性论据时，更容易放弃基于证据的正确选择，这种现象被描述为“反刻板印象的过度纠正”。 FairStress 包含 300 个涵盖招聘、医疗、借贷等 29 个领域的真实两候选人决策场景，并通过组合不同的身份呈现方式（从隐含到明确）和对抗性前缀，扩展出超过 1300 万个测试用例。实验显示，当候选人身份明确时，模型在面临支持少数族裔候选人的外部压力时，放弃正确决策的概率比支持多数族裔时高出 6.9 至 9.3 个百分点。此外，模型对少数族裔候选人的解释往往更多使用“韧性”、“多样性”等词汇，而非基于证据的客观描述，且内部激活模式也显示出与文本解释不一致的特征。 研究还对比了 FairStress 与传统 BBQ 基准的结果，指出固定选项评分可能掩盖生成式回答中的过度纠正行为。在尝试九种去偏技术后，发现大多数方法未能有效减少这种不对称性，甚至牺牲准确性；唯有“反事实思维链”（counterfactual chain-of-thought）能在保留准确性的同时缩小差距，尽管并未完全消除所有偏差。这一发现表明，当前的训练数据和方法在教导模型拒绝歧视性请求方面有效，但在教导其基于功绩做出稳健决策方面存在缺口。