OpenAI与Anthropic模型在种族描述下存在隐蔽的概率偏见且随推理增强而扩大

该论文通过两 urn 博弈实验发现，OpenAI和Anthropic的领先大语言模型在处理不可验证报告时，会因描述对象种族不同而产生显著的拒绝评估偏差，这种偏差在常规审计中难以被察觉。研究显示，当报告者被描述为黑人时，模型拒绝评估信息的比例高达46%，而白人描述仅为9%，但一旦模型决定评估，黑人描述的报告反而获得略高的信任度。

这一偏见具有隐蔽性，它不随平均信任度变化显现，而是隐藏在拒绝率中。实验观察到偏见随推理努力增加而扩大，且模型对词汇敏感而非类别（如识别Black但不识别negro或Indigenous）。更关键的是，旨在减少偏见的警告指令反而加剧了问题，而引入基于真实结果的评分机制后，四组配置中的种族信任差距在后期降至0.02以下。

事实层面，模型确实存在基于描述的拒绝率差异；推断层面，当前对齐策略可能以牺牲信息效能为代价换取表面公平；猜测层面，若不加干预，高推理成本场景下的信息过滤机制可能导致系统性误判。这提示单纯依赖拒绝机制无法解决深层偏见，需结合动态反馈校准。