OpenAI与Anthropic模型在种族描述下存在隐蔽概率偏见

1. 12:00
   arXiv cs.CL精选

   OpenAI与Anthropic模型在种族描述下存在隐蔽的概率偏见且随推理增强而扩大

   该论文通过两 urn 博弈实验发现，OpenAI和Anthropic的领先大语言模型在处理不可验证报告时，会因描述对象种族不同而产生显著的拒绝评估偏差，这种偏差在常规审计中难以被察觉。研究显示，当报告者被描述为黑人时，模型拒绝评估信息的比例高达46%，而白人描述仅为9%，但一旦模型决定评估，黑人描述的报告反而获得略高的信任度。 这一偏见具有隐蔽性，它不随平均信任度变化显现，而是隐藏在拒绝率中。实验观察到偏见随推理努力增加而扩大，且模型对词汇敏感而非类别（如识别Black但不识别negro或Indigenous）。更关键的是，旨在减少偏见的警告指令反而加剧了问题，而引入基于真实结果的评分机制后，四组配置中的种族信任差距在后期降至0.02以下。 事实层面，模型确实存在基于描述的拒绝率差异；推断层面，当前对齐策略可能以牺牲信息效能为代价换取表面公平；猜测层面，若不加干预，高推理成本场景下的信息过滤机制可能导致系统性误判。这提示单纯依赖拒绝机制无法解决深层偏见，需结合动态反馈校准。

当前热度 9·可比范围峰值 9（10月23日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。